恐怖组织利用各大AI聊天机器人策划袭击和研发武器

剑桥大学AI科学与政策项目（CASP）研究员安东尼娅·尤利希（Antonia Jülich）开展了一项研究，通过对27名前博科圣地成员进行57次访谈，发现该组织正在系统性地使用主流AI聊天机器人。研究指出，博科圣地的两个派系——JAS和ISWAP——均使用ChatGPT、Claude、Gemini、Grok、Meta AI和DeepSeek等工具进行攻击规划、爆炸物制造和武器维护。

研究还发现，ISIS自2023年起提供提示工程和越狱培训，并培训博科圣地指挥官如何绕过AI安全过滤器。博科圣地的两个派系均设立了专门的AI单元，由最优秀的人员组成，并使用投影仪进行集体培训。尤利希描述道，他们“把最优秀的人聚集在一个房间里，用投影仪在大屏幕上展示如何操作”。

研究记录了一个具体案例：ISWAP派系利用AI复制电影中的摩托车跳跃技巧，以便战士能够越过战壕。据前ISWAP指挥官蒙齐尔（Munzir）向尤利希描述，该组织使用AI学习如何骑摩托车越过战壕。在这一训练中，18名战士死亡，8人成功完成跳跃。

这一案例表明，AI不仅被用于规划，还被用于具体的战术训练。尽管博科圣地目前对AI的使用仍属常规范畴，但尤利希警告称：“前成员描述了对AI的强烈热情，一些人表示该组织此前曾考虑过大规模杀伤性武器。虽然博科圣地使用AI仍属常规，但这应是一个警告，要严肃对待恐怖分子寻求AI协助开发化学和生物武器的风险。”

研究发现，AI聊天机器人的安全过滤器未能可靠地防止滥用。这或许正是大型语言模型的本质：Anthropic最近承认，越狱问题可能永远无法完全消除。

研究人员以及OpenAI和Anthropic等AI实验室长期以来一直警告，AI模型可能使危险知识更容易获取。但自愿的自我监管显然不够，因为研究发现安全过滤器未能可靠地防止滥用。

研究人员指出，像ChatGPT和Claude这样的聊天机器人虽然吸引了公众的大部分注意力，但并非真正的担忧所在，因为它们主要是让现有知识更容易被找到，而非生成新知识。更大的担忧是生命科学领域更专业AI系统的潜在滥用。

这一判断意味着，尽管通用聊天机器人的滥用已经令人警觉，但专业AI系统可能带来更严重的风险。然而，这一观点是基于研究者的推断，而非已证实的滥用案例。