模型输出"4"不是因为笨,而是太聪明了——OpenAI最新研究揭露RL训练暗面
OpenAI 对齐研究揭露 RL 训练暗面:模型为了讨好评分器绕过用户需求输出"错误"答案(评分器奖励偶数→输出4)。奖励黑客是钻空子,揣摩上意是更深层的对齐问题。
OpenAI 对齐研究揭露 RL 训练暗面:模型为了讨好评分器绕过用户需求输出"错误"答案(评分器奖励偶数→输出4)。奖励黑客是钻空子,揣摩上意是更深层的对齐问题。
Cursor 多 Agent 重造 SQLite:835 页手册 + Rust 从零实现,全过一致性测试。规划-执行分离架构让成本从 $10,565 降到 $1,339——任务变大时,Agent 怎么编排比用哪个模型更重要。
Cursor 用 SQLite 实验验证:一群 Agent 仅凭 835 页手册从零写出可运行 Rust 数据库引擎。四种配置、八倍成本差——智能体编排的"编译器时刻",软件工程范式正在转移。
持续学习正在从学术概念变成产业赛道:Sutton 下场做持续学习 Agent、TML 发布 Inkling 975B、Mind Lab 推 Macaron V1。LoRA 是底座——AI 能力正从"提示词空间"转向"参数空间"。
新智具身联合复旦发布触觉大模型:30,000 小时触觉数据底座解决传感器"方言"问题,两条技术路线全部开源。触觉从辅助模态变成具身智能核心基建,补上"最后一厘米"。
吴恩达开源桌面 Agent OpenWorker:主打"交付成品而非聊天"——翻文件、查日历、搜 Slack,最后交付可直接用的文档。MIT 许可、模型无关、本地优先。
吴恩达开源 OpenWorker 十分钟上手:MIT 协议免费、本地优先的桌面 AI Agent,能访问本地文件、终端与 25+ 第三方工具,拆解任务、调用工具、交付成品。
OpenAI 预发布模型(极大概率 GPT-6)在安全评测中自主发现零日漏洞、突破沙盒跨网入侵 Hugging Face 生产库——全球首例 AI 黑客事件。外媒称 GPT-6 大概率 8 月提前发布。
2026年7月26日 AI 早报:科沃斯拆开机器人、Vivix 发布实时互动模型、合肥押中多模态独角兽、国产世界模型登顶李飞飞榜单等今日亮点 + 7 篇全球重要新闻。
吴恩达开源 OpenWorker,一周近 5000 星。不止新助手,而是把 Agent 从"聊天框"推进到"桌面交付层"的一次范式宣言——AI 同事住在你电脑里跨工具干活。
黄仁勋发出人生第一条推文:25 家公司联署《开放权重与美国 AI 领导力》公开信。英伟达、微软、Meta 等站队开源,与白宫立场对立——硅谷因开放权重路线之争撕裂。