新闻资讯
国家数据局定名“词元” 词元经济成为智能经济新赛道
日前,国家数据局正式将Token的中文译名确定为“词元”,并将其定位为“智能时代的价值锚点”。这一命名标志着词元正式进入经济社会视野,围绕词元生产、流通和应用展开的词元经济,正成为智能经济中创新密度最高、迭代速度最快、产业牵引力最强的新赛道。
词元并非新概念。2017年,谷歌将词元作为Transformer架构输入及输出的标准单位。随着基于Transformer架构的大语言模型广泛普及,词元逐渐成为模型处理和生成文本的基本计量单元。此次国家数据局的正式命名,为这一技术概念赋予了国家层面的标准定义。
从技术角度看,词元是大模型处理信息的最小语义单元,也是人机深层沟通的通用语言。词元并非天然存在,而是由大模型通过分词、向量化表示、位置编码、语义关系建模、上下文关联分析、概率计算等一系列“词元化”操作后生成的产物。借此,文字、图像、音频等多种模态的数据得以转化为易于被处理和理解的语义单元。
与数字化中只忠实编码、传输、存储物理世界信息的比特数据不同,作为意义单元的词元能够捕捉比特数据背后的语义信息,使机器真正“看懂”物理世界。也因此,词元深刻重塑着人与机器的关系,成为人与机器进行深层沟通的通用语言。
词元经济的独特价值在于,它打破了长期以来算力以FLOPs计量、数据以PB计量、模型算法以参数量计量的互不通约物理壁垒。词元成为跨越不同技术架构与应用场景的统一标尺,为衡量人工智能产出提供了全新维度。
从发展态势看,我国词元经济正蓬勃兴起,词元调用量呈现指数级增长,核心产业快速扩张,并加速融入经济社会各领域。这一新经济形态的崛起,不仅为数据要素价值释放开辟了新路径,也为发展新质生产力和深入推进数字中国建设提供了重要支撑。
从趋势来看,词元经济有望催生更多新经济形态,加速经济社会智能化进程。随着词元作为“智能时代的价值锚点”地位日益巩固,相关产业链和治理体系也将随之持续完善,为智能经济发展注入源源不断的新动能。