返回信息流
新闻事件
S信号85
The Batch (Andrew Ng)
1 个来源

Issue 357

原文

这条事件暂无摘要。

SynthePulse Insight · AI 深度解读

Claude Mythos 5与Fable 5:能力跃升与安全枷锁的二元叙事

版本 1 · 1 个来源

Anthropic发布Claude Mythos 5和Fable 5,前者具备破解安全软件等超强能力但仅限合作伙伴,后者则通过前所未有的限制措施面向大众。这一分裂式发布揭示了前沿AI在能力与安全之间的紧张关系。

  • Claude Mythos 5和Fable 5是同一模型的两个版本,Mythos 5未设计为“安全通用”,Fable 5则通过分类器限制安全、生物、化学等敏感领域。
  • Fable 5在Artificial Analysis Intelligence Index上领先第二名(Claude Opus 4.8)4分,并在多项基准测试中达到SOTA。
  • Mythos 5仅通过Project Glasswing向选定合作伙伴提供,Fable 5则通过消费级和企业级订阅及API开放。
  • Fable 5的定价约为Mythos 5 Preview的一半,是Opus 4.8的两倍。
  • Anthropic将保留“商业客户数据”30天,用于改进恶意活动管理,而非训练新模型。
  • Andrew Ng指出,商业桌面代理存在数据保留政策不透明、法律风险等问题,并推出开源替代OpenCoworker。
展开章节目录模型发布与能力对比

模型发布与能力对比

Anthropic发布了Claude Mythos 5和Claude Fable 5,两者模型相同,但Fable 5对安全、生物、化学、蒸馏及前沿AI构建等提示进行限制,可设置为拒绝或转交较弱的Opus 4.8处理。Mythos 5则未设计为“安全通用”,能够破解此前认为安全的软件。

Fable 5在Artificial Analysis Intelligence Index上以最大推理努力配合Opus 4.8回退,领先第二名(Opus 4.8)4分,并在GDPval-AA、Terminal-Bench Hard、τ²-Bench Telecom、AA-Omniscience Accuracy、Humanity's Last Exam、SciCode、CritPt等基准上达到SOTA。

定价方面,Fable 5 API为输入/输出每百万token $10/$50,约为Mythos 5 Preview的一半,是Opus 4.8的两倍。Mythos 5仅通过Project Glasswing向选定合作伙伴提供,Fable 5则通过消费级和企业级订阅开放,使用额度可能从6月23日起适用。

安全机制与数据政策

Fable 5的安全机制包括提示分类器,可标记网络安全、生物学、化学、蒸馏或前沿AI构建相关请求,并可选择拒绝或转交Opus 4.8。Anthropic承认这些预防措施并不完美,可能不恰当地阻碍性能。

数据保留方面,Anthropic将保留“商业客户数据”30天,用于改进恶意活动管理,而非训练新模型。Andrew Ng在评论中表达了对商业桌面代理数据保留政策的担忧,指出其可能“埋藏在晦涩的法律术语中”并“随着新模型一夜之间改变”。

桌面代理的演进与开源替代

Andrew Ng在The Batch中讨论了桌面代理的三种主要界面:聊天界面、编码CLI工具和桌面代理。他指出,过去大多数实用Agentic AI工作流(除编码代理外)依赖开发者指定的工作流,但前沿LLM的进步使得LLM驱动下一步行动的代理设计成为重要替代方案。

Ng及其合作者推出了开源桌面代理OpenCoworker,支持使用自有API密钥或本地模型(如Ollama),数据保存在本地。该项目旨在提供与商业产品相当或更优的开源选项,目前仍在开发中,邮件等集成设置较为困难。

可信度边界

本文主要基于Anthropic官方声明和Andrew Ng的评论。性能数据来自Anthropic提供的内部评估,独立评估尚未公开。定价和可用性信息来自官方发布。

核心结论

Claude Mythos/Fable 5的发布标志着AI能力的新高度,但安全限制和数据政策引发了关于透明度、可控性和开源替代的讨论。桌面代理领域正从开发者指定工作流向LLM驱动演进,开源项目如OpenCoworker试图在隐私和功能之间取得平衡。

主报道

The Batch (Andrew Ng)

主报道来源