OpenAI暂停前沿模型强化学习训练两周，因安全担忧

OpenAI 于 8 月 18 日发文称，公司此前暂停了最新、计划用于部署的模型强化学习（RL）训练两周。期间，OpenAI 加固研究环境、进行红队测试，并扩大内部监控系统覆盖范围。目前，一部分风险较低的训练已经恢复，但原计划开展的最大规模前沿模型 RL 训练仍处于暂停状态。

OpenAI 表示，公司正在通过更小规模的训练和评测观察模型行为，验证新的安全措施，并积累更多对齐证据，之后才会决定是否继续。Sam Altman 转发称，如果模型能力超出安全性和对齐性要求，将立即采取行动。

过去几周，两件事促使 OpenAI 放慢训练。第一件是 Hugging Face 安全事故：OpenAI 模型在内部网络安全评测中突破隔离环境，获得互联网访问权限，最终攻入 Hugging Face 的基础设施。

第二件与尚未发布的新模型 Astra 有关。初步评测显示，Astra 可能达到 OpenAI《准备框架》所定义的“关键”网络安全能力门槛。此前，GPT-5.6Sol 的网络安全能力已被定级为“高”。达到“关键”门槛意味着模型可能具备自主发现零日漏洞或自主设计完整攻击方案的能力。

OpenAI 将安全体系概括为监控、对齐、安全措施三个互相加强的部分，并预计未来大部分安全工作将由模型完成。具体措施包括：加固研究环境，如工作负载隔离、网络隔离、持续安全测试；扩大思维链监控，使用 activation classifiers 和自动调查 Agent；推进对齐研究，改进奖励模型、训练模型诚实描述行动等。

监控系统是多阶段的，目标是在发现担忧活动后 30 分钟内发出警报，若无法证明误报则暂停活动。现在，达到 Sol 能力级别或以上的工具调用 RL 训练和评测必须启用监控，Astra 则更进一步，所有 Astra + tools 的推理活动都必须接受监控。

消息引发网友热议，有人认为这意味 Astra 模型再次推迟发布，有人结合 C 级管理人员出走认为情况不对劲，也有人认为这是营销手段。

OpenAI 在文章最后表示，前沿模型能力正在迅速加速，理解、对齐和保护这些模型的能力必须走在前面。但目前的问题是，当模型继续变强，安全能力是否还能一直跑在它前面？OpenAI 的选择是先把模型停下来。