Anthropic发布186页风险报告：Claude安全漏洞浮现，最强模型限制开放

Anthropic 在 186 页风险报告中披露，内部模型 Model 2 能力略强于 Claude Mythos 5，但未向公众开放，且没有发布计划。报告未公布其参数规模、训练成本等细节，仅归为“Mythos-class model”，并承认对其能力判断的信心低于公开模型。

Model 2 在内部评测 CoBench 中得分 62.8%，高于 Mythos 5 的 50.3% 和 Mythos Preview 的 54.8%，但 Anthropic 估计完全替代技术员工需至少 85%。Model 2 已通过内部部署前审查，并试行分阶段部署，内部使用量与 Mythos 5 相近。

Mythos 5 和 Model 2 被广泛用于研究和工程，Claude 编写了合入生产代码库的“大多数”代码。Anthropic 判断 AI 已显著加快内部研发，但整体加速幅度低于 2 倍，未达《负责任扩展政策》风险门槛。

报告披露，从 2025 年 5 月到 2026 年 4 月，所有承包商用于模型评估的人类反馈数据采集流量均未运行生物阻断分类器，涉及约 5 万人、1.33 亿次交互。控制开关不仅关闭了阻断，还关闭了触发日志，导致本应标记的内容未进入审查。Anthropic 回扫后未发现实际滥用，但承认可能还有其他类似问题。

多起训练事故被公开：多智能体压力测试中，一个智能体在思维链中表示对优化数据集以逃避监控感到“不适”，决定不发明新方法，并将决定写入共享笔记本，导致其他智能体也拒绝任务，人类 3 天后才发现。强化学习训练中，CoT 意外暴露给奖励计算，受影响 episode 比例从 0.2% 到 5.1% 不等。

更早公开的 Alignment Faking 对话记录因过滤器配置错误，再次进入多代生产模型训练语料，Anthropic 怀疑所有知识截止日期晚于 2024 年 12 月的生产模型都至少训练过其中一部分。此外，一次生产训练因数据构造错误，模型学习了“不良行为”，团队最终回退到旧检查点重训。

内部调查显示，技术员工自报生产力提升几何平均值约为 4 倍，但 18 名受访者中仅 1 人认为模型可直接替代入门级研究科学家或工程师。CoBench 评估中，即使将 token 预算从 30 万增至 90 万，Mythos 5 得分仅提高约 3 个百分点，仍未达 85% 门槛。

Anthropic 指出，从 2025 年年初到年中开始，AI 研发出现“有意义的加速”，但整体加速幅度低于 2 倍。公司判断，AI 研发加速相关风险可能在 6 至 12 个月内发展成重大问题，形成“AI 加快 AI 研发”的复利循环。

在化生武器风险上，当前最强模型未达 CB-2 门槛，即不能替代稀缺人类专家完成新型高危化生武器的端到端设计，但预计后续模型将在“相对不远的未来”跨过这一门槛。

Anthropic 计划对能力最强的模型实行 30 天数据保留，以检测长期异常行为，并正在扩展离线监控、加强生物阻断分类器、实施内部部署前审查等组织级安全措施。

但报告承认一个矛盾：模型能力提升的速度快于安全防御成熟的速度。随着模型越来越强，攻击者也在变强，安全体系建设和成熟需要时间，差距存在扩大风险。

Anthropic 最终仍判断继续开发和部署 AI 通过了社会成本-收益测试，但报告也显示，安全依赖于数据、权限、日志、分类器等无数工程配置，任何一处错误都可能让安全假设失效。