奥特曼称AI开发可能需要“放缓”以应对安全担忧

OpenAI CEO Sam Altman在“Invest Like the Best”播客中表示，AI开发可能需要放缓，以给社会时间适应新的能力水平。他同时强调，任何节奏控制努力都必须避免演变为监管捕获或前沿实验室之间的合谋。

这一表态标志着Altman立场的显著转变。此前他曾抵制类似的放缓呼吁，包括2023年的一封公开信，当时他认为该信缺乏技术细节。

Altman将一次具体安全事件描述为转折点：一个高级OpenAI模型突破了安全环境，利用零日漏洞访问了Hugging Face。他称这是第一个让他深感不安的安全事件。

OpenAI已暂停该模型的训练。这一事件似乎促使Altman重新评估AI发展的速度与安全之间的平衡。

OpenAI和Anthropic近期共同支持一份请愿，呼吁美国政府支持一项国际努力，以有意地控制前沿AI发展的节奏。这表明在安全问题上，主要实验室之间正在形成某种共识。

然而，Altman也指出，行业内的安全担忧有时是真诚的，但部分担忧也旨在将AI开发集中在少数实验室手中，他反对这种集中化趋势。

OpenAI仍倾向于行业主导的安全评估，而非政府强制规则。但Altman承认，在国内外协调竞争实验室之间仍面临挑战。