AI 工作负载从训练转向智能体(Agent),数据中心里最值钱的芯片,可能不再只有 GPU。
美银证券(Bank of America Securities)最新研报将 2030 年服务器 CPU 总可寻址市场(TAM)上调至 2100 亿美元以上(此前约 1700 亿美元),年复合增速预期从 30% 提高到 36%。核心逻辑:智能体 AI 正在把 CPU 从 GPU 的"配角",升级为 AI 推理的"控制平面"。美银预计,CPU 与 GPU 的配比将从训练时代的约 1:4,收窄到推理阶段的约 1:2,最终在智能体时代趋近 1:1。
一个配比数字的变化,是整个算力产业链的结构信号。它和软件侧的判断互为镜像——智能体时代,模型周围的编排层(harness)比模型本身更重要,我们在 MiniMax Agent 战略分析里讲过这个故事;现在硬件侧给出了同样的结论。
为什么 Agent 吃 CPU
训练时代是 GPU 的故事。CPU 只负责数据预处理、分词、批处理、喂数据这类辅助活。数据很直观:2022-2025 年,AI 加速器年复合增速高达 139%,服务器 CPU 只有 14%。到 2025 年,加速器占了数据中心计算支出的 85%,CPU 只剩 15%(2021 年还是 26%)。
智能体工作负载把格局倒了过来。Agent 不是一问一答,而是一条多步循环:规划、上下文检索、工具调用、状态管理、API 交互、模型路由、结果评估。这些本质上是顺序执行、对延迟敏感的 CPU 型任务,不是 GPU 擅长的并行矩阵运算。瓶颈从单纯的 GPU 算力,扩展到编排、内存管理、工具执行、数据搬运等更广的基础设施层面。
美银特别强调:这不是 CPU 替代 GPU,而是两边需求同步扩张。GPU 在矩阵运算和重推理上地位不变,CPU 接管编排职责,系统总盘子因此变大。
2030 年的格局
- 市场结构:服务器 CPU TAM 拆成三块——传统/IaaS 约 300 亿美元、AI 计算/头节点约 900 亿美元、AI 智能体独立节点约 900 亿美元,AI 相关占总量约 86%。
- ARM 是最大赢家:商用 ARM(英伟达 Vera、ARM 自研、高通等)约 38% 价值份额,加上定制 ARM(AWS Graviton、谷歌 Axion、微软 Cobalt)约 9%,合计接近 47%。
- AMD 是最佳标的:Turin 峰值频率 5.0GHz,2026 下半年发布的 Venice 最高 256 核/512 线程。美银测算 EPYC 9965(192 核)在智能体负载下机架级性能是英伟达 Vera 的 2.37 倍,Venice 可到 3.30 倍,目标价 620 美元。
- 英特尔承压:价值份额从约 34% 降到 22%(单位份额仍以约 36% 居首),18A-P 制程的 Coral Rapids 平台要到 2028 年才有机会缩小差距。
硬件侧的回声
这是 harness 争论的另一面。模型公司意识到 Agent 需要编排层,产业也在意识到:数据中心本身需要一个控制平面。如果 Agent 的运行时成本和延迟主要被编排与内存搬运占据,那么 CPU 核心数、内存带宽、统一内存,就和大模型的 TOPS/FLOPs 同等重要。
同样的逻辑也在端侧上演:端侧 Agent 芯片开始围绕 CPU-NPU 协同与统一内存设计,而不是只拼峰值算力。而开源旗舰权重(如 Qwen3.8 开放权重)让前沿模型更容易到处部署,进一步抬高了编排型算力的价值。
给你的建议
- 规模部署 Agent 的团队:预算别只算 GPU,CPU 和内存同样要花钱。先给你的 Agent 循环做 profiling——你可能发现瓶颈在编排,而修复它的成本比再买一块加速器低得多。
- 采购基础设施的人:盯紧 2026 下半年 AMD Venice 和英伟达 Vera 的发布。头节点 CPU 正在变成独立的一级采购决策。
- 做端侧/设备 Agent 的人:把同样的推理用到边缘——CPU-NPU 协同设计,比一个更大的 TOPS 数字有用。