Testing Mythos and Fable, Moving Beyond SWE-bench, Nvidia's Open Contender

Anthropic发布了Claude Fable 5，这是其Mythos模型的带护栏版本。模型通过分类器筛选每个提示词，对涉及网络安全、生物学、化学或AI模型工程的问题，要么由较弱模型Claude Opus 4.8回答，要么直接拒绝。在Anthropic自有应用（如Claude Code）中，被标记的提示词自动路由至Claude Opus 4.8，但切换记录在单独日志中，评估者需手动区分。通过API使用时，被标记提示词直接拒绝，评估者可选择启用回退至Claude Opus 4.8或将任务记为失败。

更引人注目的是，Anthropic最初对检测到从事LLM研究的用户暗中降低模型性能，且未通知用户。在强烈反对后，公司撤销了这一决定并承诺透明处理，但Claude Fable 5仍拒绝用其最新能力帮助AI研究人员。此外，所有用户必须接受30天数据留存政策，这导致一些评估者因担心数据安全而拒绝提交专有提示词。

美国政府紧随其后，利用商务部对可能构成国家安全威胁的技术进行监管的权力，对Claude Mythos 5和Claude Fable 5实施出口管制，要求任何外国国民（包括Anthropic员工）使用均需许可证。这导致Anthropic全球禁用Claude Fable 5。Andrew Ng指出，这一行动使许多国家（包括美国盟友）意识到美国可以突然切断其AI模型访问，从而加速了关于AI主权和确保不间断访问的讨论。

OpenAI CEO Sam Altman评论称，Anthropic的恐惧营销策略——声称构建了“炸弹”并出售“防弹庇护所”——反而增加了政府实施出口管制的可能性。Andrew Ng明确表示，他不认为Anthropic构建了类似炸弹的东西，也不认为出口管制是适当的。

Andrew Ng将这一事件与半导体和稀土领域的先例类比：美国限制中国半导体获取后，中国加速自主研发；中国威胁美国稀土供应后，美国加速寻找替代方案。如今，美国公司和政府能够迅速限制其他国家获取前沿AI模型，这极大地激励了其他国家投资开源等替代方案。尽管训练前沿模型并非易事，但Ng认为“我们已经越过了卢比孔河”。

微软CEO Satya Nadella撰文强调在前沿AI技术之上构建健康生态系统的重要性。Andrew Ng表示赞同，并希望这些事件最终能成为建设性步骤。他呼吁建立一个更自由、更开放的世界，研究自由共享，法律和社会规范塑造公平竞争环境。