A重点75
The Batch (Andrew Ng)
1 个来源Opus超越Fable，Hugging Face遭黑客攻击，AI公司巨额投入计算资源
本期The Batch新闻简报报道了多个AI领域的重要事件：Opus模型在性能上超越了Fable，Hugging Face遭遇黑客攻击，以及AI公司在计算资源上的巨额投入。这些事件反映了AI行业的竞争态势和安全挑战。
返回信息流
新闻事件
SynthePulse Insight · AI 深度解读
开源模型与封闭模型的安全之争：从Hugging Face事件到Claude Opus 5
版本 1 · 1 个来源
当封闭模型拒绝协助安全审查时，开源模型成为替代方案。Claude Opus 5的发布进一步加剧了性能与安全之间的权衡。
- Hugging Face在遭遇意外网络攻击后，因封闭模型未能防御，转而使用开源权重模型GLM 5.2。
- Andrew Ng团队在安全审查中，Claude Code和Codex均拒绝继续，最终使用开源模型Kimi K3和GLM 5.2完成。
- Claude Opus 5在Artificial Analysis Intelligence Index上以61分领先，成本低于Fable 5。
- Claude Opus 5对网络安全任务设有回退机制，但日常防御性扫描被允许。
- 开源模型在社交媒体上获得广泛支持，但在政策层面仍需努力。
展开章节目录事件背景：封闭模型的拒绝与开源替代
事件背景：封闭模型的拒绝与开源替代
Hugging Face经历了一次意外网络攻击，封闭模型未能有效防御，最终转向使用开源权重模型GLM 5.2。这一事件凸显了封闭模型在安全场景中的局限性。
Andrew Ng团队在对其开源项目OpenWorker进行安全审查时，尝试使用Claude Code（搭载Fable 5）和Codex（搭载GPT-5.6 Sol），但两者均拒绝继续，其中Codex在映射攻击向量后拒绝进一步操作。团队随后使用OpenWorker harness配合开源模型Kimi K3和GLM 5.2完成了审查。
Claude Opus 5的发布与性能表现
Anthropic发布了Claude Opus 5，这是一个视觉语言模型，支持最多100万token的输入和128,000 token的输出，知识截止于2026年5月。该模型在Artificial Analysis Intelligence Index上以61分（最大推理）领先，超过Fable 5的60分和GPT-5.6 Sol的59分。
在成本方面，Claude Opus 5每任务平均成本为2.03美元，低于Fable 5的2.75美元，但高于GPT-5.6 Sol的1.54美元。在Coding Agent Index上，Claude Opus 5（xhigh推理）与GPT-5.6 Sol（最大推理）并列第一（67分）。
安全机制与回退策略
Claude Opus 5对网络安全任务设有回退机制，当检测到潜在风险时，会回退到Claude Opus 4.8，但回退频率低于Fable 5。日常防御性工作如扫描源代码漏洞是允许的，但生成漏洞利用或渗透攻击等请求会触发回退。
与Fable 5不同，Claude Opus 5在生物、化学和生命科学问题上不会回退，因为Anthropic认为该模型在这些领域危险性较低。
开源模型的支持与政策挑战
Andrew Ng指出，开源权重模型在社交媒体上获得了广泛支持，但在华盛顿和各州议会中尚未赢得胜利，因此仍需持续努力。
安全官员对封闭模型拒绝协助安全审查表示沮丧，因为攻击者利用AI代理能更快发现漏洞，这进一步凸显了开源模型和开源harness的重要性。
可信度边界
本文信息主要来源于The Batch（Andrew Ng）的新闻汇总，其中包含第一手经验描述和第三方基准测试结果。基准测试数据来自Artificial Analysis，但未提供原始报告链接，因此部分数据应视为来源声明。
核心结论
封闭模型在安全审查中的拒绝行为可能促使更多组织转向开源模型，而Claude Opus 5的发布表明性能与安全之间的权衡仍在持续。
主报道
The Batch (Andrew Ng)
主报道来源