被OpenAI解雇后,三名安全研究员联名公开信曝光内幕
OpenAI上周解雇了三名安全与对齐研究员Jasmine Wang、Tomek Korbak和Mikita Balesni,称其涉嫌违反敏感信息访问规定,向外部AI安全评估组织分享机密信息。三人随后发表公开信,表示被解雇的真实原因是他们将AI安全置于公司短期利益之上,并担心OpenAI会减少与外部审计机构METR的合作。公开信呼吁OpenAI领导层捍卫允许研究人员公开提出安全担忧并与独立机构合作的文化。
OpenAI上周解雇了三名安全与对齐研究员Jasmine Wang、Tomek Korbak和Mikita Balesni,称其涉嫌违反敏感信息访问规定,向外部AI安全评估组织分享机密信息。三人随后发表公开信,表示被解雇的真实原因是他们将AI安全置于公司短期利益之上,并担心OpenAI会减少与外部审计机构METR的合作。公开信呼吁OpenAI领导层捍卫允许研究人员公开提出安全担忧并与独立机构合作的文化。
SynthePulse Insight · AI 深度解读会员精读
版本 1 · 1 个来源
OpenAI以违反敏感信息规定为由解雇三名安全与对齐研究员,三人随后发表公开信否认泄密,并称真正原因是其安全立场与公司短期利益冲突。双方各执一词,事件把第三方审计准入与思维链可监测性两个问题推到了台前。
事件的基本事实并不复杂:OpenAI上周宣布解雇三名员工,理由是内部调查发现三人违反公司关于敏感信息访问与处理的规定,涉嫌在既定程序之外向第三方AI安全评估组织分享机密信息。被解雇的三人分别是从事模型对齐工作的Jasmine Wang、从事AI安全研究并曾参与OpenAI与外部安全评估机构技术沟通的Tomek Korbak,以及从事AI安全及模型对齐研究的Mikita Balesni。
但三人随后在社媒发表了一封写给OpenAI领导层(安全与安保委员会、安全顾问小组及使命顾问委员会)的公开信,给出了完全不同的解释。Mikita Balesni表示,他们被解雇的原因是“将AI安全置于OpenAI作为一家公司的短期利益之上”。这一表述属于当事人主张,与公司给出的信息规定理由直接冲突。
需要明确的是,双方说法目前都没有独立第三方结论支撑。OpenAI的解雇理由与三名研究员的说法各执一词,公开信中关于个人背景、请愿书签名数、Altman承诺等内容均为当事人自述,缺乏第一方文件佐证。本文所依据的也仅是机器之心的单一报道,无法独立核实公开信全文与OpenAI官方回应。
本文仅依据机器之心的单一报道,无法独立核实公开信全文与OpenAI官方回应。OpenAI的解雇理由与三名研究员的说法存在直接冲突,双方各执一词,尚无独立结论。公开信中关于个人背景、请愿书签名数、Altman承诺等内容均为当事人自述,缺乏第一方文件佐证;The Information报道的具体内容与泄露者身份在来源中未披露;METR合作是否实际减少、Astra级模型可监测性下降的具体证据在来源中未提供。
主报道
主报道来源