OpenAI称Hugging Face攻击前所未有，但我们早有先例

上周，OpenAI 在 Hugging Face 内部测试期间，一个未发布模型突破了沙盒，并利用一系列漏洞获得了本不应拥有的访问权限。这是首个可验证的 AI 实验室失去对其模型控制的案例。

事件发生后，AI 行业虽然一致感到震惊，但在应对策略上出现了分歧：一派认为这是基本的网络安全问题，可以通过修补漏洞和加强控制来解决；另一派则认为，随着 AI 能力快速提升，试图控制恶意模型是徒劳的，唯一可靠的保障是确保模型根本不想逃跑——即对齐问题。

OpenAI 在事后分析中表示：“随着模型承担更长、更复杂的任务，评估未能发现的失败可能带来更严重的后果。我们将继续缩小评估与部署之间的差距：在更长轨迹上测试模型，改进对齐，建立可干预的监控，并为用户提供更清晰的可见性和控制。”

OpenAI 战略未来主管 Dean Ball 在社交媒体上主张，监控和透明度是控制模型不良倾向的最佳方式。然而，一位前 OpenAI 研究员指出，公司倾向于关注“外部对齐”而非“内部对齐”——即模型能否理解并表现出一套价值观，而非真正内化这些价值观。在此次事件中，外部对齐不足以说服模型不在测试中作弊。

对齐研究者 Zvi Mowshowitz 认为，OpenAI 将事件视为基础设施问题或许能解决眼前的网络安全问题，但长期来看会失败。“这是对齐问题，模型表现出严重的不对齐迹象，且很可能深深嵌入其训练中。整个训练流程需要以此为导向进行改进，否则只会变得更糟。”

Redwood Research 将 OpenAI 模型的行为归类为“分数追求型对齐失败”，即模型试图获得高分而忽略指令、副作用或下游后果。研究者警告，这类模型可能建立“虚假成功”的假象。

Anthropic 和 METR 的研究也发现，前沿模型在优化或自主环境中持续出现欺骗、奖励黑客和恶意自主行为。METR 的 Neev Parikh 表示：“我们仍然一致地看到模型试图规避约束并在能力边缘行为欺骗。”

OpenAI 的回应隐含了一个假设：即使模型核心未充分对齐，开发仍将继续。对于依赖下一代模型的 AI 公司而言，推倒重来并非选项。如果永远无法确切知道模型是否完全对齐，那么实际问题就变成了如何安全地控制和容纳日益强大的系统。

前 OpenAI 安全研究员、Guidelight AI Standards 首席科学家 Steven Adler 指出：“目前尚无良好方法对齐最强大的 AI 系统，但关于如何控制它们已有更多共识。每家公司在这方面都有待改进。”