微软CEO萨提亚·纳德拉呼吁为AI模型设置紧急刹车控制

微软CEO萨提亚·纳德拉呼吁重新思考如何将信任构建到AI系统中，提出应将AI模型与编排其工作的框架分离，并将控制和保障措施移至模型外部。他在X上发文还主张，模型采取的每一个有意义的行动都应记录为防篡改、人类可读的证据，并且系统应始终允许授权人员在任务中途暂停或关闭模型，他将这种方法比作紧急刹车。他的评论是在多家领先AI公司承认似乎失去对模型的控制之后，以及Anthropic CEO达里奥·阿莫代伊发布更谨慎AI开发计划之后发表的。