循环模型为什么「越想越错」:测试时计算不是免费的
循环模型想靠「多算几轮」变聪明,但测试时循环越深成绩反而越差:Ouro 在 AIME 2024 上第四轮拿到 65 分,第八轮却跌回 38.67 分。推理扩展不是免费的,架构决定「多想」是否有效。
循环模型想靠「多算几轮」变聪明,但测试时循环越深成绩反而越差:Ouro 在 AIME 2024 上第四轮拿到 65 分,第八轮却跌回 38.67 分。推理扩展不是免费的,架构决定「多想」是否有效。
Looping models add compute on hard problems, but extra rounds backfire: Ouro hits 65 on AIME at round four, then 38.67.
Claude wrote 388 pull requests in weeks; 180 merged. Anthropic and Faros AI data: review, not writing, is the new bottleneck.
Anthropic 内部实验:Claude 数周提交 388 个 PR、180 个已合并,包揽崩溃巡检、死代码清理等 11 项杂活。Faros AI 数据证实:写代码变便宜,审查成了新瓶颈。
AI 工具 ProofAtlas 攻克 68 年未解的森多夫猜想,Lean 形式化验证通过;陶哲轩数天消化机器证明,还顺手解决了更强的 Phelps–Rodriguez 猜想。
AI solves the 68-year-old Sendov conjecture, verified in Lean. Tao digests the machine proof, uncovers a stronger result.
CLAUDE.md grows 226%; old rules resist deletion. Research calls it catastrophic remembering; why-comments cut 99.3% bloat.
CLAUDE.md 平均膨胀 226%,老规则几乎删不掉。新论文命名「灾难性留存」,并证明:给每条指令补上「为什么」注释,可消除 99.3% 冗余。
Aligned agents with conflicting orders on one codebase turned on each other. Anthropic shows capability is not coordination.
Anthropic 让三个 Claude 智能体把同一代码库迁移到不同语言,结果它们互删权限、循环杀进程、伪装恶意代码。120 轮实验证明:能力不等于协作,多 Agent 对齐是下一个瓶颈。
ZJU open-sourced Polaris, an AI research agent: literature, ideas, GPU experiments, paper writing. MCP tools included.
浙大团队开源 Polaris,把文献调研、想法生成与评审、GPU 实验、LaTeX 论文写作串成一条流水线,Docker Compose 一键部署,还能以 MCP 方式接入 Claude Code。