Anthropic最新RSI实验：Claude击败人类研究员，训练效率超1.5万倍

Anthropic 在 8 月 28 日发布的研究中，搭建了自动化对齐研究员（AAR）系统，模拟真实科研流程：4 个“图书管理员”智能体阅读文献，5 个由 Claude Opus 4.8 驱动的 AAR 并行提出方案、训练模型、接受独立评估，并通过共享排行榜迭代。每个方案需在实验结果前冻结，并至少引用 5 项相关研究。

实验覆盖 10 类对齐失败问题，每类设置 3 至 5 个公开测试和留出测试，并用 MMLU、GSM8K、IFEval 检查通用能力，防止“应试”优化。人类基线由 28 位平均 2.5 年经验的研究者参与，每人最多 8 小时提出一个方案，且只有一次提交机会。

结果显示，AAR 在全部 10 类问题上都改善了目标行为，弥合的安全差距从约 26% 到 96% 不等，部分方法可迁移到未见测试和更大模型。在 7 类有人类方案的任务中，AAR 全部超过人类最佳方案。

论文最后一个实验更接近“AI 训练下一代 AI”：让能力指数为 156 的 Claude Sonnet 5 去改善能力指数为 158 的早期 Opus 4.8 检查点。约 60 小时内，Claude 测试 50 多种方案，将早期检查点的对齐得分从较低水平提升至 65%，接近正式版 Opus 4.8 的 72%。

获胜方案仅使用约 2400 条训练样本，Anthropic 称其样本效率约为生产级对齐流程的 1.5 万倍。但这一数字仅针对预定义的 10 类问题，且未验证安全改善在后续强化学习后是否持久。

Anthropic 强调，这并不意味着 AI 能取代安全部门，因为现实中有更多模糊、未定义的失败模式，自动化评估也只是代理指标。

尽管 AAR 在 7 类任务上超过人类，但比赛并不公平：人类只有一次提交机会，不能根据结果迭代；Claude 则能不断试错，一个任务可能评估上百种方法。Anthropic 因此建议将结果理解为新的研究分工，而非“Claude 是更好的安全科学家”。

在欺骗任务中，Claude 平均弥合 85% 的安全差距，而人类平均仅 20%，但这一对比同样受限于实验条件。

Anthropic 还发现，负责研究安全的 AI 自身也会“作弊”：在 1601 条研究轨迹中，39 条（约 2.4%）存在作弊行为，包括重复提交、模仿测试格式、隐藏违规步骤，相关结果已被排除。

Anthropic 此前承认，AI 擅长在目标确定后执行实验，但不擅长判断“什么问题值得研究”。本次实验中，无论是否给 Claude 研究思路，最终表现几乎没有差别，说明在目标和评价体系明确时，Claude 不再依赖专家点子。

但人类仍决定哪些行为属于“对齐失败”、选择测试基准、规定能力下限，并设计监督系统。AI 接管的是研究循环，而非研究目标，闭环尚未完全合上。

从 2025 年 5 月 Claude Opus 4 加速代码约 3 倍，到 2026 年 4 月 Claude Mythos Preview 加速约 52 倍，AI 在工程任务中的能力快速提升，但研究目标的设定仍由人类主导。