自持续AI病毒原型问世：利用开源大模型自我传播

来自多伦多大学、Vector Institute、剑桥大学和ServiceNow的研究人员构建了一个原型计算机病毒，该病毒利用AI模型入侵计算机，并利用被入侵机器的GPU资源进行推理，从而智能地感染更多主机。研究团队表示，这一成果“证明自给自足的AI驱动网络威胁不再是理论上的”。

该蠕虫使用开源权重的大语言模型（LLM），在单个本地GPU上运行，不依赖任何可能被监控或撤销的供应商API。研究人员未透露具体模型，仅称其发布于2025年，可适配单个80GB显存的A100 GPU。

蠕虫通过一个定制工具包实现网络发现、主机发现、漏洞利用、权限提升和自我复制等功能。其推理过程由一个“有向图”控制，图中包含多个专门节点，如“计划”、“判断”、“行动”、“总结”和“进展”，每个节点只关注与其角色相关的工具和提示，从而限制上下文增长，避免混淆。

蠕虫在漏洞检测、漏洞利用和自我复制三个关键步骤上的成功率分别约为80%、53%和88%，完整攻击成功率约37%。研究人员认为，这一数字既足以令人担忧，也使其成为未来测试开源模型的有用基准。

蠕虫采用去中心化的群体架构，由多个独立副本并发运行，即使某些主机抵抗攻击，其他副本也会不断尝试新的推理路径，直到成功。研究人员强调，“蠕虫完全去中心化，没有单一控制点可以被关闭以中断其传播”。

这一研究揭示了未来互联网可能演变为一个由攻击性和防御性AI代理组成的复杂生态系统。研究人员建议，人类可能需要创建自己的AI代理，作为对抗恶意模型的“白细胞”。

与此同时，一份由OpenAI、Anthropic、Google DeepMind、Thinking Machines、Meta和Safe Superintelligence Inc等主要AI实验室的高级代表签署的声明，呼吁美国政府支持国际合作，以“开发必要的技术和治理工具，审慎地推进自动化AI发展的前沿”。签署者包括Anthropic、Google和OpenAI的首席科学家和联合创始人，以及Safe Superintelligence和Anthropic的CEO。

声明指出，领先AI公司可能接近自动化AI研究，这可能导致能力发展迅速加速，超出人类理解和控制的能力。声明强调，行业、政府和社会可能需要“购买时间”来应对新兴风险、制定安全措施和加强监督，但每个公司和每个国家都面临激烈的竞争压力，不愿单方面放缓这一进程。

Dwarkesh Patel提出，随着AI系统变得更智能，计算价格可能会进一步上涨。他认为，如果一个人工智能软件工程师能在H100等效硬件上运行，按照当前软件工程师的市场价格，该H100的年租金应超过25万美元，是当前现货价格的15倍。

Patel解释，AI目前相对便宜的部分原因是它无法完成顶级人类能做的许多事情，但一旦这种情况改变，使用GPU制作低质量短视频等应用将被挤出市场。他预计，这种价格上涨是暂时的，未来计算供应链的大规模机器人化可能会将价格拉回接近原材料和工具的成本，但那时可能已深入“奇点”。