AI服务如何按需取用？探访24小时运转的“词元工厂”
日均词元调用量突破500万亿，算力优化师成新职业，AI服务进入“插电卡”时代
AI服务如何按需取用？探访24小时运转的“词元工厂”
日均词元调用量突破500万亿，算力优化师成新职业，AI服务进入“插电卡”时代
词元，也就是token，是人工智能大模型处理信息的最小单元。国家数据局29日表示，当前，大模型加速向千行百业深度落地，带动我国词元调用量快速攀升，市场需求呈现爆发式增长，实践中已演化出不同类型的词元工厂形态。
新的词元工厂，到底有何不同？又是如何运行的？
记者探访24小时运转的“词元工厂”
在北京这个新落成的“词元工厂”里，上万平方米的机房是车间，消耗的原料是电力，源源不断生产出的产品就是词元。
“词元工厂”总负责人 颜敏：我们把几十种国产大模型部署到我们的国产算力上，给大家提供AI服务。大家可以向AI提问，我们的算力就开始生产词元，给大家相应的答案和任务结果。
工作人员告诉记者，和一般的工厂不同，“词元工厂”没有库存管理，用户请求到达的瞬间，词元生产就立刻启动。因此，“词元工厂”也是24小时运转的工厂。
“词元工厂”运营负责人 朱璐璐：从我们24小时的产量变化可以看到，白天词元的调用量处于一个比较高的水平，大家一般上午进行方案的设计和讨论，下午会利用智能体进行代码的生成和迭代。这个时候，整个词元的消耗量会有一个非常明显的攀升，每个小时最高峰能够有超过10亿词元的产出。
记者在采访时发现，还有一个词元消耗波峰，竟然出现在凌晨0时到4时之间。这又是为什么呢？
“词元工厂”运营负责人 朱璐璐：一类是互联网平台的智能客服，夜间他们通常会利用AI去回应客户的一些咨询、问题；还有一类是夜间的自动化作业，比如一些软件的测试，一些数据的批量加工。最近，还有一类业务起得特别快，就是AI漫剧，很多的漫剧在夜间被大量地生成、渲染、导出。
最新数据显示，随着人工智能应用的爆发式增长，我国日均词元调用量已突破500万亿，两年时间增长超5000倍。
新需求催生新职业
算力优化师应运而生
人工智能在生产和生活中应用越来越广泛，算力资源的重要性就更加凸显了。如何用更少的算力支撑更多高质量词元的产出，从而实现降本增效？一类新职业应运而生。
在北京海淀的这个“一人公司”社区里，工程师袁黎江每天到办公室的**件事，就是打开电脑查看自己的智能体，但常常也会出现小插曲。
研发工程师 袁黎江：智能体可能做到第五步、六步之后，第七步报告说“资源紧张 请求失败”。底层还是因为现在算力比较紧张。现在为了抢词元套餐，我得定个闹钟。
就在工程师袁黎江为争取更多算力资源费心劳神的时候，在屏幕另一端，一个新职业算力优化师开始琢磨，如何为用户提供更好的算力服务。
算力优化师 师天麾：我们在各个地方“批发”一些零散的国产算力，不同型号的国产算力就像是不同的发电机组，生产出来的词元就像我们所使用的电。我们把不同国产算力生产出来的词元输送给用户，你按用量来付费就可以。
在这样一个界面中，用户输入一个开发任务，算力优化师通过算法进行监测和调度，平台自动匹配**模型组合和算力供给后，给出多个方案。
算力优化师 刘东升：你想要AI任务跑得越快越好，还是消耗的词元越少越好？这些平台都是可以通过对应的算法满足需求的。
在算力优化服务的支持下，用户使用人工智能的时间和花费有望降低。
研发工程师 袁黎江：原来可能AI生成一个15秒的视频，需要等七八分钟，现在可能只需要等两三分钟就出来了。
人工智能服务加快实现集中供应
按需取用
业内专家也指出，随着“词元工厂”新模式、算力优化师等新职业的陆续产生，人工智能服务正在加快实现集中供应、按需取用。
国家数据发展研究院院长 胡坚波：企业应用AI的门槛从“建电站”降到了“插电卡”，不再需要自建算力中心，只需要按照词元消耗量付费，从“为算力买单”变为“为效果付费”。
专家表示，词元的应用领域目前正处于快速拓展阶段，但不同行业的发展程度存在一定差异。
国家数据发展研究院院长 胡坚波：音视频编辑、编程等服务类场景中的应用是比较活跃的，也是当前词元消耗量的主要场景。金融机构用词元计量风控的成本，作为结算工具。医疗机构把词元用于核算人工智能辅助诊断的费用。按照词元计费，正在成为专业服务领域的一种值得关注的新型计价探索方向。在制造业、农业这样一些实体经济领域，词元的规模渗透率仍然比较低，相关的商业模式也比较单一。推动词元有效地赋能实体经济的发展，还有待我们进一步探索和实践。
（总台央视记者 吴昊 刘柏煊 朱世松 陈春晓）
🔍 深度分析
“词元工厂”代表着AI基础设施从重资产自建向轻量化按需服务的范式转移。传统企业部署AI需要采购服务器、搭建机房、维护算力集群，门槛极高；而词元工厂将国产大模型与国产算力整合，以“词元”为计量单位对外供应，用户只需按消耗量付费。这类似于从“自建发电厂”到“电网购电”的转变，大幅降低了AI应用门槛。
从数据看，我国日均词元调用量突破500万亿、两年增长超5000倍，印证了AI应用已进入爆发期。词元消耗波峰从白天延伸到凌晨，智能客服、自动化测试、AI漫剧生成等业务填充了夜间算力空闲，提升了整体利用率。算力优化师这一新职业，本质上是“算力中间商+算法调度者”，通过聚合零散算力、匹配任务与模型，让用户获得更快更省的选择。
不过，当前词元消耗仍集中在互联网服务、编程、音视频编辑等领域，制造业、农业等实体经济的渗透率较低，商业模式单一。未来需要针对行业特点开发专用词元服务，并建立更完善的按词元计价、结算和审计体系。国家数据局推动词元工厂形态演化，正是希望以标准化、集中化的AI服务供给，带动千行百业智能化转型。总体来看，词元工厂和算力优化师的出现，标志着AI服务正从“项目制”走向“公用事业化”。
📌 核心问题解决方案 · 执行方式 · 验收模型
核心问题：企业AI应用算力成本高、获取难，算力资源分散且利用率不均，缺乏灵活付费机制。
解决方案：建设“词元工厂”集中供应平台，将多种国产大模型部署于国产算力，以词元为计量单位，实现按需取用、按量付费。
执行方式：① 整合零散国产算力，由算力优化师通过算法调度；② 用户提交任务，平台自动匹配**模型组合与算力；③ 24小时无库存生产，实时响应请求；④ 推出词元套餐、按用量计费，降低使用门槛。
验收模型：① 日均词元调用量持续增长，峰值处理能力≥10亿/小时；② 用户AI任务平均等待时间缩短50%以上；③ 算力利用率提升，夜间空闲算力得到有效利用；④ 实体经济行业词元渗透率提升，出现可复制的按词元计费案例；⑤ 企业AI使用成本明显下降，从“为算力买单”转向“为效果付费”。
💬 评论区 · 10条