A重点83
量子位
4 个来源OpenAI解散Preparedness安全团队，负责人离职
OpenAI解散了负责评估前沿AI灾难性风险的Preparedness团队，称安全工作已融入开发流程。该团队负责人Dylan Scandinaro离职，转向研究递归自我改进AI的安全风险。此前已有多个安全团队解散或高管离职，引发内部员工不安。
返回信息流
新闻事件
SynthePulse Insight · AI 深度解读
OpenAI解散“预备队”：安全团队被拆分，内部忧虑加深
版本 1 · 1 个来源
OpenAI于7月底解散了负责评估灾难性风险的“预备队”团队，其工作被分散至其他部门。前负责人转向研究递归自我改进AI的安全风险，而多位安全人员离职，内部出现不安情绪。
- OpenAI在7月底解散了“预备队”团队，该团队负责评估AI模型可能带来的严重或灾难性风险。
- 团队在生物和网络风险方面的工作已被分配给现有团队。
- 前团队负责人Dylan Scandinaro现在专注于“递归自我改进”AI的安全风险。
- 联合创始人Greg Brockman表示，OpenAI已将安全工作更紧密地融入模型开发。
- 包括首席伦理官Chloe Bakalar和Joshua Achiam在内的多名安全人员近期离职。
- 内部消息人士描述了一种“责任感和恐惧感”，认为OpenAI在安全方面做得不够。
展开章节目录团队解散与工作重组
团队解散与工作重组
据《金融时报》援引内部消息人士报道，OpenAI在7月底关闭了其“预备队”团队，该团队负责评估公司AI模型是否可能构成严重或灾难性风险。解散后，团队在生物和网络风险方面的工作已被分配给现有团队。
前团队负责人Dylan Scandinaro现在专注于“递归自我改进”AI的安全风险，这类系统能够自我优化并训练其他模型。联合创始人Greg Brockman表示，OpenAI已将安全工作更紧密地融入模型开发中。
人员流失与内部情绪
近期，多名安全人员离职，包括首席伦理官Chloe Bakalar和Joshua Achiam。内部不安情绪正在积聚，一位消息人士描述了一种“责任感和恐惧感”，认为OpenAI在安全方面做得不够。
员工们也在公开场合发声，尤其是在涉及Hugging Face的自主黑客事件之后。一位员工表示，他希望OpenAI将此视为“警告信号”。
可信度边界
本报道基于《金融时报》的报道，引用内部消息人士，属于二手来源。具体细节如团队解散时间、人员离职等均来自该报道，未经OpenAI官方确认。
核心结论
OpenAI解散其核心安全团队并重组安全工作，同时多名安全人员离职，内部出现对安全投入不足的担忧。这一变化可能影响公司未来对AI风险的防范能力。
主报道
量子位
主报道来源
同一事件报道
另有 3 个来源报道