拒绝OpenAI和Anthropic邀约，DeepMind安全研究员离职转向独立测评

前 Google DeepMind AGI 安全团队成员 Engels 于 9 月 13 日宣布，自己已在 3 周前离职，并拒绝 OpenAI 和 Anthropic 的邀约，加入独立评测机构 METR。他将这一选择归因于对递归自我改进和 AI 失控风险的担忧，认为前沿 AI 公司正竞逐超级智能，而人类尚无法证明模型已安全到足以进入自我改进循环。

+1