顶级AI实验室研究人员警告自动化AI研究，部分预测里程碑已实现

一项对25位顶尖AI研究者的访谈显示，自动化AI研究被视为最紧迫的风险之一，而多个预测里程碑已被实现。然而，递归自我改进是否真正发生，仍是争论焦点。

• IAPS研究员Severin Field访谈了来自OpenAI、Anthropic、Google DeepMind、Meta及美国大学的25位研究者，其中20人将自动化AI研究列为最严重和紧迫的风险之一。
• 研究者们普遍以METR的Task Horizon基准衡量进展，任务长度自2019年以来约每六个月翻倍，2024年后加速至约每四个月。
• 多个预测里程碑已被实现：OpenAI和Google DeepMind达到数学奥林匹克金牌水平；Sakana的AI Scientist产出同行评审的研讨会论文；Karpathy构建了自主运行训练循环的代理；Anthropic报告Claude编写其生产代码库80%以上的代码。