Anthropic与OpenAI提议在AI公司内部嵌入独立安全评估员

Anthropic CEO Dario Amodei在周末文章中提议，前沿AI公司应嵌入第三方评估员，赋予其评估模型对齐、报告安全事件并无编辑控制地发布发现的权力。Amodei承诺Anthropic将给予METR和Redwood Research等评估员扩展访问权限，OpenAI CEO Sam Altman表示其公司也将跟进。评估员普遍欢迎该提议，但表示关键细节仍未解决，包括实际能获得多少访问权限，并指出没有约束性监管的自愿承诺可能很脆弱。