CPU 与 GPU 同样重要:Arm 正在成为 AI 数据中心的新底座

AI 的第一波浪潮,主角是 GPU:前沿集群、Token 吞吐、算力军备竞赛。但相隔一天的两次财报电话会,悄悄把聚光灯移到了机器的另一部分。微软 CEO 纳德拉用一句话点破:「运行智能体负载时,CPU 与 GPU 同样重要。」这不是口号,而是账单上的现实。

智能体改变了计算机的「分工」

智能体负载和传统推理完全不同:要检索数据、调用工具、运行代码、执行策略、验证结果——这是比「生成 Token」宽得多的任务集。GPU 仍承担大部分训练与推理,但 CPU 在做模型周边的所有事:请求路由、数据预处理、工具编排、内存与存储管理,以及让数千个并发交互稳定运行。

第一波浪潮用每秒 Token 衡量成败,智能体时代用「协调能力」衡量成败。当基础设施的工作变成让一群并行任务保持活着且连贯,那个决定「谁先跑、拿到什么」的芯片,就和做重活的芯片一样值钱。

微软与 AWS:用芯片投票

微软 Cobalt 200 基于 Arm Neoverse CSS V3,是第二代 Arm 云 CPU:性能较前代最高提升 50%,扩展到 128 vCPU,专为云原生、数据密集型与智能体负载设计。2025 年 11 月发布、2026 年 6 月开放 VM 预览,不到两个月机架就铺到全球 25 个以上数据中心——已经承载微软自有服务以及 Adobe、Arm、Elastic、OpenAI、Sprinklr、TomTom 的负载。

AWS 更快。其芯片业务(Graviton、Trainium、Nitro)年化营收突破 250 亿美元,同比三位数增长。真正的信号是采用率:前 1000 大 EC2 客户中 98% 在用 Graviton,12 万+客户基于它构建服务,且连续第三年新增 CPU 容量一半以上是 Graviton。第五代 Graviton5 的 M9g 实例比 Graviton4 计算性能最高提升 25%、机器学习推理快 35%,整条产品线性价比高 30%–40%。这正是我们之前判断的趋势的兑现:CPU 与 GPU 的配比正在走向 1:1

效率成为新的营收杠杆

对超大规模云厂商来说,CPU 效率不再是省钱指标,而是产能放大器。微软 Azure 当季营收同比增长 43%,需求仍超过供给。CFO 的解释很直接:基础设施效率提升、上线加快,释放出的算力几乎一上线就被需求吃掉,直接转化为收入。

压力是结构性的:IEA 数据显示 2025 年 AI 数据中心用电量增长 50%;Dell'Oro 统计 2026 年一季度超大规模厂商资本支出同比增 78%。每一瓦、每一机架都被卡住的时候,同样活干得更好、利用率更高的芯片,就是释放被电费锁死的营收。算力基础设施正在进入自进化时代,这种效率就是新的护城河。

整个行业都在向 Arm 收敛

微软和 AWS 是最响亮的例子,但不是全部。Google Cloud 的 Axion 是 Arm 架构 CPU,还充当最新一代 TPU 系统的 AI 头节点 CPU,负责编排、网络与基础设施服务。NVIDIA 的 Vera 同样是 Arm 架构 CPU,将成为 Rubin 下一代 AI 工厂的计算底座,在机架级协调内存、网络与加速器。

四家超大规模厂商,同一个架构结论:当 AI 基础设施从模型推理走向自主智能体执行,基于 Arm 的 CPU 正在成为现代数据中心里那个负责路由、协调、让数千个并发 Agent 任务稳定运行的通用底座。

基础设施团队现在该做什么

  • 重排容量规划。为智能体负载建模 CPU:GPU 配比,而不是只算训练和推理 Token——编排密集路径会比你预算预期更快改变这个比例。
  • 实测 Arm 实例。Graviton5 的 M9g 和 Cobalt 系 VM 值得在你的编排/推理路径上跑基准——30%–40% 的性价比优势在规模上会复利放大。
  • 按「每个完成任务」计成本,而不是按 Token。智能体经济奖励的是协调效率。IDC 预计 2026 年全球 AI 基础设施支出达 4970 亿美元、同比增长 56%,需求已延伸到编排平台、数据流水线和基于 CPU 的推理集群。

GPU 建起了 AI 的第一波浪潮。决定第二波谁能赢的,是那个安静的 CPU。

发表评论

滚动至顶部