从算力竞技到Token工厂:AI基础设施的范式转移与国产破局之道

温故智新AIGC实验室

TL;DR:

随着AI迈向Agent原生时代,衡量AI实力的标尺已从算力规模(P)转向Token产出(TPW),AI基础设施正在演变为追求单位电力产出和异构调度效率的“Token工厂”,这将彻底重构国产算力的商业生态与盈利逻辑。

随着AI从“聊天机器人”向“自主决策的Agent”演进,基础设施的底层逻辑正在发生一场隐秘但深刻的范式转移。过去两年,地方政府与企业竞相追逐的“算力规模(P)”和“芯片装机量”,在Agent时代正显露疲态。当模型上下文从数万Token激增至百万级别,且输入输出比率向100:1演变时,真正决定胜负的不再是单一显卡的算力天花板,而是系统工程对于海量Token的高效产出能力。

算力的“去魅”:从PFLOPS到TPW

在工业界,衡量智算中心效能的指标正在发生位移。传统的PUE(能源使用效率)仅能反映电力在IT基础设施的物理分配,却无法回答“一度电产出了多少有效智能”。商汤大装置提出的TPW(单位电力成本对应的Token产出)概念,标志着AI基建进入了“算力经济学”阶段。1

这种视角的转换具有极强的哲学意义:它将算力从一种“昂贵的物理资产”转化为一种“可计量的工业原料”。当企业开始核算“每一张卡、每一度电能生产多少Token”时,国产算力便不再仅仅是地缘政治夹缝中的替代品,而是成为了追求性价比和系统最优解的商业对象。

异构混合推理:国产算力的“铁人三项”解法

国产AI芯片面临的核心难题并非“有没有”,而是“怎么用”。面对架构碎片化、软件栈适配繁琐的现状,商汤大装置推行的“异构混合推理”方案,提供了一种极具现实意义的工程解法:将Prefill(计算密集型)与Decode(显存带宽密集型)阶段分离,通过异构组网将不同性能的国产与高端芯片组合,形成“接力”效应。2

这种策略将单一芯片的“短板”通过系统架构的“长板”掩盖,不仅规避了单一依赖的风险,更在商业上通过降低硬件门槛,让国产芯片进入了工业级推理服务的循环。据统计,通过异构混推与算电协同,国产集群已初步展现出正毛利率的商业潜能。3

未来趋势:基础设施的“Agent化”与“工具化”

展望未来3-5年,我们可以预见以下演进路径:

  1. 基础设施的自我演进:AI Agent将反向渗透至算力运维中,利用AI自动完成算子迁移、性能调优和故障预测。基础设施本身将成为一个自我学习、自我进化的生命体。
  2. 算力资产的金融化:Token将成为AI时代类似于“石油”的硬通货,算力运营方将转型为AI能力供应商,不再出租算力时间,而是按Token计费,直接对接业务价值。
  3. 空间与算力的重构:随着太空算力与智算中心的弹性协同,算力服务将向更广泛的弱网络地区与物理边缘延伸。4

商业版图的重塑与挑战

国产算力若要真正迈过盈亏平衡点,不仅需要技术突破,更需要打破“割裂”的产业生态。目前国内参与者分层严重,缺乏能够统筹机房、网络、模型、电力与终端业务的“总控”能力。5 商汤等企业的角色变化,正是在于扮演这一“全栈整合者”,通过将算力、模型与电力协同,试图将国产AI基础设施打造为一种像水电一样随取随用的公用事业。

然而,挑战依然存在。国产集群如何保持长期的稳定运行,如何应对模型版本更迭带来的计算负载不确定性,以及客户是否有足够高的留存粘性,都是这一模式能否走通的关键。在这个过程中,商汤所定义的“Token工厂”,本质上是一次关于“生产效率”的革命。

引用


  1. 国产算力最大的短板,被一座Token工厂补上了?·36氪·(2026/7/20)·检索日期2026/7/20 ↩︎

  2. 商汤Token Plan再进化!让国产算力跑通“工业级”大模型·商汤科技官方新闻·(2026/7/20)·检索日期2026/7/20 ↩︎

  3. 日产Token10万亿后、商汤算力要“上天”·上观新闻·(2026/7/20)·检索日期2026/7/20 ↩︎

  4. 专家:应构建起以“词元”为中心的人工智能词元工厂·科技日报·(2026/4/26)·检索日期2026/7/20 ↩︎

  5. 硅基流动:打造“Token工厂”,让智能像水电一样普惠·新华网·(2026/4/13)·检索日期2026/7/20 ↩︎