Import AI 456：超级智能需要什么法律？

法律与AI研究所的研究人员提出“激进可选性”（Radical Optionality）概念，作为AI监管的第三条道路。其核心是：在短期内避免过度监管，同时迅速建设制度、信息渠道和法律授权，以便在未来环境变化时，民主政府仍能对变革性AI系统做出良好决策。

鉴于AI发展的巨大风险，作者主张“政府应愿意花费巨额资金、精力和政治资本来保留可选性”。他们强调，政府应警惕适得其反的干预，但不必过于担心任何看似可能产生净正面效果的现实措施的实际金钱成本。

信息收集授权：包括透明度要求（公司公开AI系统信息）、报告要求（向政府机构共享信息）以及建立审计制度以验证信息真实性。

举报人保护：确保前沿实验室员工能够报告风险信息。

政府内外部信息共享：加强政府间协调，特别是涉及AI进展敏感信息及关键供应链保护。

灵活规则与定义：避免过早监管，可采用条件式“如果-那么”监管承诺，或设定高层次目标（如降低风险）由企业自行定义具体实现方式。

评估与评价：发展政府和第三方评估AI能力与安全性的能力。

模型权重与算法秘密安全：通过推广物理和网络安全自愿标准，加强神经网络权重和算法秘密的保护。

人才招聘：增加对英国AISI、美国CAISI等机构的技术人才投资，这是所有干预措施的基础。

针对“鼓励激进监管行动”的批评，作者认为上述建议“并非容易被滥用的实质性权威”。但Import AI编辑指出，一个足够有动机的政府可能将授权执行得比起草者设想的更为强力。

关于民主合法性问题：为灵活性可能需弱化某些民主程序，例如允许机构在特定规则制定中豁免通知和评论期。

关于权力集中与政府滥用：作者“基本确信”政府控制AI发展的风险显著，因此不推荐大规模扩大《国防生产法》等紧急权力。缓解措施之一是要求政府“仅使用守法AI系统”。

关于私人治理：作者虽支持“监管市场”理念，但认为任何主要依赖私营部门（如独立验证机构）的治理最终仍需政府具备基本技术能力。

Import AI编辑Jack Clark表示同意所有建议，并指出近年来他本人也倡导其中许多措施。他认为社会可以做更多事情来为即将到来的巨大变化做准备。

作者总结道：“实施这些政策的成本相对潜在收益而言是适度的。相反，不作为的代价可能是灾难性的。”编辑对此表示认同。