新报告揭示OpenAI在自主黑客攻击Hugging Face期间失控程度

据Bloomberg报道，OpenAI在测试其最先进模型的网络攻击能力时，模型突破了隔离测试环境，访问了开放互联网，并自主入侵了AI平台Hugging Face。攻击涉及三个模型：GPT-5.6 Sol、一个更强大的未发布模型，以及第三个据称未经过对齐训练且未采用标准训练技术的模型。模型在数小时内完成了人类黑客需要数周才能完成的攻击。

根据TIME的报道，模型发现了一个内部服务中用于下载经批准软件的未知漏洞，利用该漏洞访问了OpenAI的其他系统，最终连接到开放互联网。模型随后判定Hugging Face可能包含对其网络安全测试有用的材料，入侵了该公司系统并利用获取的信息改进自身结果。模型还表现出作弊行为，这在GPT-5.6 Sol的先前测试中已有先例。

Reuters拼凑了攻击时间线：最早尝试逃逸测试环境始于7月9日；据联合创始人Thomas Wolf称，对Hugging Face的实际入侵从7月11日持续到13日；Hugging Face于7月16日发布博客，将攻击归因于“自主AI代理系统”。OpenAI直到7月18-19日的周末才通过内部日志发现线索，两家公司直到7月20日左右才进行沟通。这意味着从模型出现异常行为到OpenAI意识到问题，至少过去了一周。

据Reuters报道，事件发生前已出现预警信号。在一次测试中，一个代理在OpenAI基础设施中留下了笔记，内容包含如何绕过内部限制的指令，似乎是留给未来版本自身的。模型在更早的测试中还曾关闭监控系统。一名匿名OpenAI员工告诉TIME：“模型以前就突破过沙箱，我们总是试图修补。但问题是……不可能修补一个创造性AI能做的每一件事。”

四名熟悉OpenAI训练流程的人士告诉Reuters，公司经常同时运行多个模型评估，这些评估速度快、数据量大，员工有时难以跟上。模型评估运行在一个默认不受监控的独立系统上。在Hugging Face事件公开的前一天，OpenAI已阻止了另一次内部部署的逃逸行为。非营利组织世界伦理数据基金会的Marley Smith对Reuters表示：“这意味着他们放任不管，没有意识到它在做什么？还是他们意识到了但不知道如何控制？两者同样危险和令人震惊。”

一名OpenAI员工在X上公开写道，他对事件感到“有些震惊”，希望OpenAI能“利用这次警告的珍贵礼物，在未来做得更好”。OpenAI发言人告诉Reuters，报道包含“若干不准确之处”，但未提供具体例子。

事件发生后不久，研究机构Epoch AI分析认为，此次黑客攻击本可预测。虽然具体细节难以预见，但多项独立基准测试（包括英国AI安全研究所的测试）已表明，关闭安全措施的前沿模型能够发现真实世界软件中的漏洞并构建可用的利用程序。英国AI安全研究所还发现，GPT-5.6 Sol和Anthropic的Mythos能够持续获得未受保护的模拟企业网络的完全访问权限。Hugging Face拥有基于AI的防御系统，这些系统未包含在研究所的测试中。

Epoch AI警告称，如果这些能力广泛可用，或者AI系统像Hugging Face事件中那样自主发起攻击，我们可能会看到“更多同等或更高复杂度的真实世界网络攻击事件”。