最近关联数据平台裸露,中国AI大模子周调用量协调三周特出好意思国。这背后的计量单元是一个科技圈流行的新词儿——“Token”!Token是啥?它和大模子、算力以致电力有啥谈判?总台央视科技记者张春玲为您逐个剖析。
最近,科技圈流行起来一个新词儿——Token。3月24日,国度数据局在官方发布中初度提到Token的圭臬华文译名——“词元”。
浅陋来说,Token便是AI大模子惩处信息的基本单元,咱们以字为单元来念书写字,关于大模子,这个输入输出的单元便是Token。在AI的眼里,一个Token可能是零点几个汉字、单词,也可能一个标点、数字或者标记。它就像AI时期手机的流量一样,每一个AI模子厂商齐会提供我方的Token,而且以它的铺张量为单元向用户收费。
往日的几个月里,跟着“龙虾”智能体的爆火,大众的Token调用量迎来了新一轮的暴涨。而和之前很不一样的是,这一次中国AI大模子的Token调用量,历史上初度全面特出好意思国。
为什么全宇宙齐在用中国的Token? 中枢原因那便是物好意思讨价廉。

咱们要知谈,Token并不是虚构产生的,它是由高性能的GPU在铺张无数的电能,完成数千亿次的推理运算后产生的数字金钱。每生成一个Token齐对应着着实的推理历程,也对应着着实的电力铺张和算力铺张。
而中国大模子公司之是以省略把Token价钱作念得更低,主要原因:
第一是咱们的电力上风。中国领有更完善的电力基础设施和时刻体系,尤其是在西部地区丰富的新动力绿电,正在与数据中默算力、关节加速耦合,把电平直更始成AI时期的新式管事智商。
第二是时刻智商。连年来中国科技企业在推理芯片、模子架构和系统优化上抓续杂乱,这意味着濒临相通一个问题,中国的大模子经常不错用更少的算力,更短的时延,更高的能效,就把谜底给算出来。
有东谈主说Token将是AI时期新的动力单元,中国电力、中国算力正在以一种全新的形势参与着大众的竞争。
(总台央视记者 张春玲 李峻)足球外盘网站app娱乐