AI 优化 AI:算力基础设施进入自进化时代

过去两年,AI 前沿只回答一个问题:模型还能变多聪明?现在第二个问题挤到了台面上:模型底下的算力,还能不能更快、更便宜?

递归自我改进(RSI)——让 AI 自己设计和调优运行它的系统——正成为继推理、Agent 之后的下一个前沿。OpenAI 称 GPT-5.6 的 RSI 能力把端到端服务成本降低了 20%、Token 生成效率提升 15% 以上;Anthropic 披露其代码库 80% 以上由 Claude 生成;Jeff Dean 离开谷歌创办 Discovery Loop,估值据报逼近 100 亿美元。优化这件事本身,正在被自动化。而它下一步要下沉的地方,是算力基础设施层。

RSI 浪潮正在下沉到算力层

眼下大多数 RSI 工作集中在模型层:模型自己提实验、评估结果、改进自己。但模型跑得快不快、贵不贵,取决于它底下的算子、编译器、内存调度和分布式运行时——这一层至今主要靠少数资深工程师手调。

清华系创业公司清昴智能把「AI 优化 AI」当作创业第一天就要回答的问题,是国内第一家专注 AI 自进化 Infra 的公司,使命很具体:让国产芯片的软件底座学会自己进化。这与我们此前梳理的结构变化同频——AI 的下一层增量可能不是更大的模型,而是系统本身的组织方式

核心错位:L4 模型,L1 算力

模型正在朝 L4 式的自主执行迈进:Agent 连续运行数小时、长链路推理、复杂工具调用。可算力底座还停留在 L1 式的人工接管:算子适配、编译优化、内存调度、框架适配、推理调优,换芯片要重适配,换模型要重新调。

国产芯片的软件生态相对碎片化,一个复杂算子的开发调优要资深工程师投入数周,却可能很快被下一轮模型迭代淘汰。而 Agent 时代的 Token 消耗还在暴涨:复杂 Agent 单次任务的 Token 开销可达传统对话的数百倍,部分场景日调用量已逼近万亿级。靠人肉调优,跟不上这条曲线。

自进化怎么工作:先优化,再演化

清昴的技术脉络来自清华朱文武教授实验室:2022 年提出的自我驱动机器学习,把 AutoML、元学习向前推了一步——不只是超参数,连任务、数据、优化策略和评价标准都交给机器决定。创始人关超宇是朱文武的学生、清华特奖得主,把这条研究线变成了产业公司。

落地拆成两个闭环:自主优化解决「这一次怎么优化」——根据真实运行状态定位瓶颈、尝试方案、按反馈取优;自主演化解决「下一次怎么更快」——把每次优化经验沉淀下来,面对新模型、新芯片时直接复用。优化→积累→再优化,循环越转越快。

国产算力真实生产环境的数字:复杂算子的开发调优从约两周压缩到约一小时(约 336 倍);国产芯片全链路打通从约一个月压缩到一天到一周(约 30 倍);代表性算子较基线最高提速 30 倍。目前已完成数十款国产芯片的适配优化,覆盖国内超半数主流国产算力芯片。

从一次性调优到万亿 Token 工厂

商业模式也跟着变了:不再卖一次性的适配外包,而是卖 Token(高性价比产出)或卖 产线(整套自进化 Token 生产平台,可私有化或代运营)。客户不关心 Token 跑在哪颗芯片上,只关心成本、延迟和稳定性。

适配从此变成持续运行的过程:新模型来了系统自动学,新芯片来了系统自动调,新场景来了不用从零开始——适配形成复利。这也是国产算力上「万亿 Token 工厂」能成立的原因:把闲置或低效的算力转成 Token 产能。而 Agent 流量还在指数级放大,此前「机器流量首次超过人类」的数据已经预告了这条路。

行业重心为什么在位移

三个信号值得跟踪:

  • 优化本身变成基础设施。稀缺能力从「谁会手调算子」转向「谁拥有会自我改进的软件栈」——这是能复利的护城河,不是按次计费的服务。
  • 软件成为芯片的乘数。在先进硬件受限的环境里,自进化软件是抹平效率差的杠杆。国产算力的天花板不在硅片,而在软件能不能跟上模型迭代。
  • 经济学是通用的。任何异构、受限的算力集群都面临同样的人肉调优税。RSI 下沉到 Infra 会是全球性模式,而不只是中国的替代方案。

工程团队现在能做什么

  • 先埋点。观察不到的优化不了,运行时遥测是整个闭环的原料。
  • 把调优当数据。每次优化决策——试了什么、什么赢了、代价是什么——都记下来,别留在老师傅脑子里。
  • 先关一个小环。选一个算子族或一颗芯片,把反馈循环跑通,再扩张。小闭环的复利胜过一次性大动作。
  • 买循环,不买榜单。评估 Infra 供应商时,问清优化是一次性交付,还是持续自进化的能力。

模型竞赛占据头条,基础设施竞赛决定利润率。当机器开始优化机器,把调优当成复利资产来经营的团队,才能拿到规模之下最便宜的 Token。

发表评论

滚动至顶部