蒸馏陷阱:当AI分不清自己的聪明从哪来

今年5月,Meta给自家工程师划了一道红线。应用AI工程部门的人,不能再随便用Claude Code和Codex了。

注意,Meta是Claude Code在全球最大的客户之一,它今年内部用AI的总账单正奔着数十亿美元去。

天天离不开的工具,公司花大钱买来,现在却在内部限制使用。不是它们不好用,而是太好用了——好用到Meta开始害怕。

这则新闻背后,藏着一个AI产业正在集体面对的尴尬问题:当AI开始帮我们造AI,我们分得清,一份"聪明"到底是谁的吗?

一、Meta在怕什么?

据The Information拿到的内部文件,Meta的核心担忧不是成本,而是"蒸馏"(distillation)。

蒸馏的机制很好理解:拿一个更强的模型(比如Claude),让它不停地答题,再用这些答案去训练一个较弱的模型(比如Meta正在自研的MetaCode)。有点像让学霸把卷子从头做一遍,学渣照着抄,几个月就追上人家好几年的功力。

Meta最怕的,不是员工用AI写代码这件事本身,而是这些代码的输出——如果被用作MetaCode的训练数据,那MetaCode学到的就不再是"人类工程师训练出来的本事",而是"Claude的本事"。它照着对手的卷子抄答案,越练越像对手。

更隐蔽的,是评测这一环。模型每答一道题,需要有个东西告诉它答得好不好。如果出题和判分都交给Codex,那MetaCode就是在朝着"Codex觉得对"的方向进化。对手的判断标准,被一点一点复刻进了自己的脑子里。

Meta的这份内部指南,核心就三条红线:

第一,不能拿Claude或Codex的输出去给自家模型出测试题。"我们不要源自模型的任务",指南的原话如此。

第二,不能让AI在源码里找bug,也不能让它基于代码分析帮你想"该测什么"。

第三,AI生成的任何东西,都不能放进被测模型能访问到的地方。

三条堵的都是同一个口子:让对手的输出一丝一毫都不能渗进训练或评测的链条。

允许AI干的是什么?搭工作流、整理代码、写测试脚手架——打下手可以,但每一行产出,人都得先过一遍眼。

二、蒸馏陷阱:一个产业级的尴尬

Meta担心的事情,业内有个专门的词叫"蒸馏陷阱":你越是靠最强的模型去搭自己的地基,就越难证明你的聪明到底打哪来。

这个问题不是Meta独有的,它正在以各种方式暴露在行业的每个角落。

今年2月,Anthropic公开指控DeepSeek、Moonshot和MiniMax三家中国公司,发动了"工业规模的蒸馏攻击"——通过大量伪造账户向Claude发送海量精心构造的提示词,系统性提取模型能力。

这只是冰山一角。6月10日,Anthropic在给美国参议院银行委员会的信中披露:与阿里巴巴及Qwen AI实验室相关的运营方,通过近25,000个伪造账户,与Claude进行了超过2880万次对话——这是Anthropic迄今公开披露的最大规模蒸馏行动。

就连马斯克也不能置身事外。今年4月30日,在加州联邦法院的证人席上,xAI的CEO被问到是否对OpenAI模型使用了蒸馏技术来训练Grok。他先是说这是AI公司的普遍做法,被追问后才承认"部分"如此。

在美国,蒸馏并不违法。AI生成的内容也不受版权保护。唯一的约束是合同——OpenAI和Anthropic的服务条款都明确禁止拿模型输出去造竞争对手。但"执法权"完全攥在竞争对手手里,没有任何中立的仲裁机构。

去年,Anthropic直接掐断了OpenAI对Claude的API访问。规则模糊,执法权在对手手里。谁敢拿自己几十亿的投入去赌对方不翻脸?

三、租来的聪明 vs 练出来的聪明

这里有一个更根本的问题。

AI公司展示能力的方式,长期以来就是"刷榜":我的模型在某个榜单上超越了你。但榜单上的题目是谁出的?

Chatbot Arena这类人工评测,用的是真实用户的盲测投票,相对可靠。但大量技术榜单——编码基准、数学推理、考试题库——它们的题目是如何生成的?有多少是天然的人类题目,有多少是从另一个模型的输出中"蒸馏"出来的?

一旦你无法回答这个"出身"问题,整个能力宣称体系就会出现裂缝。

想象一下:如果所有AI模型的编码能力都来自同一套被Claude生成的题库去评测,那这个"满分"到底意味着什么?是模型真的学会了编程,还是它学会了模仿Claude认为正确的答案?

这个问题的尖锐之处在于:它不仅在技术层面难以回答,在法律层面更是空白。没有一家法院判定过"模型能力归属权"这个案子,因为在此之前,从来没有人需要面对"一份智能到底是谁产生的"这样的问题。

Meta这次内部叫停,本质上是在承认一个事实:当AI学习AI,能力的"产权归属"已经成为一个真实的法律和商业风险。它不是唯一一个意识到这点的玩家,但它是第一个把这个担忧写进内部备忘录的。

这就像在问一个悖论:如果所有老师都曾是另一个老师的学生,那知识到底属于谁?

四、三条出路

这个问题离普通人并不远。你每天用AI写的代码、改的方案、攒的资料,喂回去就会变成下一代模型的养料。在这个循环中,"谁站在谁的肩膀上"那条界线,已经越来越模糊。

对于那些在AI行业做决策的人,以下三条是我认为当下最值得优先考虑的事:

如果你是AI公司的技术负责人:立即审计你的训练数据来源——你的评测题库中有多少是纯人类的输出?你的后训练数据里有没有第三方API的产出?这不仅是技术清洁度的问题,而是潜在的法律地雷。Anthropic和OpenAI已经开始翻旧账了。

如果你是AI公司的法务或CEO:认真评估你的依赖风险。每年花数十亿在对手的API上,同时用自己的产品去和对手竞争——这个架构本身就存在利益冲突。Meta的解决方案是自研,但你至少需要想清楚:你是在建立真正的壁垒,还是在帮对手建护栏?

如果你是开发者:享受AI工具生产力的同时,保留你独立思考的能力。最好的AI用户不是把一切都丢给模型的人,而是能用AI加速工作流程、同时在关键判断上保留自己主见的人。因为当越来越多的人依赖AI输出时,那个能分辨"AI给的答案到底对不对"的人,才是最稀缺的。

回到开头的问题。当AI开始帮我们造AI,我们还分得清,本事到底是谁的吗?

也许Meta那条内部红线,最终会变成一个比公司政策更严肃的东西——一个行业的红线。

参考来源:The Information、36氪/新智元、The Decoder、Anthropic官方声明

滚动至顶部