扩展高级人工智能测试构建方法

Meta 在2026年4月8日宣布，在其原有前沿AI框架基础上发布了显著更新且更严格的高级AI扩展框架。该框架扩大了评估的风险类型，包括化学与生物、网络安全，并新增了评估失控风险的部分。

框架要求对模型在获得更大自主权时的表现以及相关控制措施的有效性进行评估。这些标准适用于所有前沿部署，无论是开放、受控API访问还是封闭模型。

在实践中，框架要求映射潜在风险、在应用安全措施前后评估模型以确认其在现实世界中有效，并且仅在模型满足框架标准时才进行部署。

Meta 发布了针对Muse Spark的安全与准备报告，详细说明了部署前进行的广泛安全评估。由于Muse Spark具有高级推理能力，评估在应用保护措施前后均进行，测试范围涵盖最严重的风险（如网络安全、化学与生物威胁）以及长期安全政策（如暴力、儿童安全、犯罪）和意识形态平衡政策。

评估方法采用多层次设计，在部署前针对数千个专门设计的场景进行测试，追踪成功攻击的频率并尽量降低。同时，通过自动化系统监控实时流量以发现意外问题。

结果显示，在所有测量的风险类别中，Muse Spark均具备强大的安全防护。评估还表明，Muse Spark在避免模型回答中的意识形态偏见方面处于前沿水平。此外，评估确认该模型不具备构成失控风险所需的自主能力水平。

Meta 强调，安全保护内置于每个阶段：从过滤训练数据、安全专注训练，到产品层面的防护栏。由于Muse Spark比前代模型能力更强，其推理能力使得一种全新的模型治理方法成为可能。

早期方法依赖于逐一训练模型处理特定场景（如拒绝回答或重定向到可信来源），这种方法有效但难以扩展。而Muse Spark的推理能力使Meta能够将信任与安全指南转化为清晰、可测试的原则，并训练模型理解规则背后的原因，从而更好地处理规则系统可能无法预见的新情况。

这项工作并不取代人工监督，而是提升其作用。团队设计指导模型行为的原则，针对真实场景严格验证，并叠加额外防护栏以捕捉模型可能遗漏的问题。结果是保护措施应用更广泛、更一致，并随模型推理能力的提升而改进。