AI算力竞争重心转向Token效率
过去两年围绕GPU的军备竞赛正在退潮。在词元(Token)计费模式下,单纯靠“囤卡多、集群大”获取优势的法则逐渐失效,效率成为算力竞争的新焦点。
堆卡逻辑的边际收益递减
此前行业普遍以GPU集群规模衡量算力实力,但这一策略的性价比正持续走低。随着芯片数量增加,每新增一块GPU带来的性能增益逐步收窄,简单堆砌硬件已经难以转化为等比例的效率提升。
Token计费重塑供求关系
规则从“卖硬件”转向“卖Token”后,算力供应商不再按服务器时长或卡时数计费,而是按实际处理的Token量向客户收费。这种变化将定价与产出直接挂钩,迫使供应商把重心从硬件规模转向单位Token的处理成本。
当下,这套“以规模论输赢”的法则正被瓦解——在词元(Token)计费模式下,规则从“卖硬件”变为“卖Token”,堆硬件的边际收益递减,效率由此成为新战场。
旧模式:按GPU数量或时间租赁计费,成本压力不直接传导至效率优化。
新模式:每Token定价要求供应商持续降低推理成本、提升计算速度。
分析指出,这一转变淘汰了粗放型“堆卡”竞争,将算力市场的竞争力重新锚定在技术效率本身。
7月初京算Token工厂落地 趋境科技半年融资超10亿元
7月初,京算Token工厂正式落地,同时趋境科技在半年内累计融资超过10亿元。这两大事件分别指向算力供给的标准化与算力调优技术的资本热潮,共同揭示出算力调优正在从幕后走向前台,成为决定企业盈利和重塑国产算力格局的关键变量。
Token计费模式重构核心评价指标
国内算力市场长期由海外主导,按卡/时长计费,客户选型看重单卡峰值性能与CUDA生态成熟度。国产芯片虽在成本、供给、异构部署灵活性上有优势,但因生态短板沦为备选。Token计费模式的普及正在改变这套评价体系。
“Token模式的本质,是算力从卖硬件变成卖结果。”范式智能首席战略官兼副总裁曾慈雯向证券时报记者表示,新规则下客户不再为硬件参数买单,核心考核指标变为单Token交付成本、有效产出效率与稳定性,底层硬件品牌差异重要性降级。
这套规则切换为国产芯片解锁差异化机遇:无需硬拼单卡峰值,依托硬件成本优势,结合全栈算力调优提升集群吞吐,即能跑出优于海外产品的性价比,进入此前无法触及的核心场景。
是石科技联合创始人毛运航指出,2026年AI行业迎来商业拐点:C端、B端推理应用集中爆发,API付费模式跑通,大模型推理赛道整体跨过只见投入不见产出的阶段。算力调优从“锦上添花”变成“雪中送炭”,每一次效率提升都直接体现为企业利润,这也是全行业愿为优化技术重金买单的主因。
第三方AI Infra公司快速崛起
随着算力调优价值爆发,芯片厂商、云厂商、运营商、大模型企业以及第三方AI Infra公司同台竞技。其中,独立第三方AI Infra公司的崛起成为2026年AI产业的新变量。这类公司普遍遵循相似的技术架构:基础层做异构算力统一纳管;核心优化层自研推理引擎,覆盖算子开发、键值缓存等专项优化;调度层实现动态负载分配和集群混部;顶层提供标准化API和多模型统一接入。
“现在市场的注意力集中在芯片、大模型、云厂商这些显性环节,但真正决定Token经济运行效率的是中间层。”曾慈雯认为,谁能把分散、异构、碎片化的算力转化为稳定、标准化的Token产能,谁就掌握核心生产力。
清程极智、硅基流动、无问芯穹、趋境科技、是石科技等公司迅速完成多轮融资。硅基流动已向港交所递交上市申请,当前估值约77亿元。星连资本合伙人王璞指出,第三方Infra公司的核心优势在于“中立性”,填补大厂无法覆盖的碎片化需求,跨芯片、跨模型的通用适配需求集中爆发。
王璞预判未来一两年将出现三个变化:上游纯硬件溢价逐步回落;中间转化层的价值占比快速提升;垂直场景的应用与模型方拿到更多增量价值。毛运航判断,第三方AI Infra头部壁垒开始成型,新玩家窗口收窄,细分赛道未来可能呈现寡头垄断格局。
挑战:架构碎片化与全栈人才匮乏
赛道火热但挑战同样严峻。曾慈雯将行业普遍难题归纳为四大挑战:国产芯片架构碎片化,每款硬件需定制化底层适配;全栈优化门槛高,复合型团队稀缺;场景化调优难以复制;大规模异构集群调度复杂度呈指数级上升。
清程极智联合创始人师天麾表示,全栈算力调优属于高门槛交叉学科,需要同时精通硬件架构、底层系统、网络通信、大模型算法,培养周期极长。此前赛道小众、商业价值未显,人才储备长期匮乏,高性能计算方向资深工程人才“一将难求”。
底层产业生态亦有明显短板。某头部国产芯片架构师指出,国产卡用户基数有限,迭代节奏慢,驱动层漏洞在规模化部署中仍属常见。各芯片厂商底层接口开放程度不一,行业暂无统一标准,调优深度受限于开放的接口层级。不过华为昇腾近年开放程度已有改善,反映产业共识正在形成。
毛运航提醒,新兴第三方Infra公司还要避免“技术自嗨”,过度专注技术攻坚而忽略商业化节奏,可能使“先驱”变成“先烈”。
尽管挑战严峻,算力调优与AI Infra正以Token产能改写格局,推动国产算力从硬件替代迈向生态自主,开启软科技长牛。 (文章来源:https://www.moyubuhuang.com/caijing/202607/76214.html)