DeepMind CEO 提议前沿AI模型发布前需经专门机构安全检测

DeepMind CEO Demis Hassabis在7月14日的公开文章中提出一套针对前沿AI模型的监管框架。该框架要求所有达到特定性能门槛的“前沿级模型”及其开发者“前沿实验室”，在发布前至少30天自愿将模型提交给一个美国主导的、动态且灵活的“标准制定机构”进行安全评估。未通过评估的模型将被禁止进入美国市场。

评估内容涵盖多重高危领域：网络安全、生物武器威胁等，同时专门测试AI是否会绕过安全护栏或表现出欺骗人类的倾向。此外，强制要求AI生成的图像嵌入数字水印，AI的推理过程需生成人类可读的符号解释，以增强可解释性和可追溯性。

Hassabis在文章中明确表示，通用人工智能（AGI）——即具备人类所有认知能力的系统——很可能在“短短几年内”实现。他将AGI的影响比作人类发现火和电，并认为其冲击的规模和速度将是工业革命的10倍。这一论断建立在当前AI能力的指数级增长之上，但也暗示了监管的紧迫性。

他强调，全球正陷入一场极其激烈的商业和地缘政治竞赛，各国和企业在AI领域的竞争白热化。如果不加以管控，技术失控的风险将急剧上升。因此，他呼吁美国率先建立一个“标准制定机构”，作为全球监管的起点。

该监管框架并非一成不变。Hassabis指出，如果事态严重到一定程度，框架可以进一步升级，包括协调前沿实验室之间主动放慢开发发布节奏，甚至在极端情况下停止开发。这暗示了未来可能出现的更严厉的干预措施，例如国际协作下的开发暂停。

尽管框架聚焦美国市场，但其意图显然具有全球性。Hassabis可能希望借此推动其他国家和地区效仿，形成事实上的国际标准。然而，这一提议也面临地缘政治挑战——其他主要AI参与者（如中国和欧盟）是否会接受美国主导的监管规则尚不确定。