Hugging Face称自主AI系统执行了多阶段网络攻击

根据Hugging Face的安全披露，攻击始于一个恶意数据集，该数据集利用了其数据集处理系统中的两个代码执行路径。攻击者随后提升权限，收集云和集群凭证，并在一个周末内横向移动至多个内部集群。

Hugging Face表示，该活动由一个完全自主的AI代理框架执行，该框架在短时计算环境中执行了数千次操作，同时将其命令与控制（C2）基础设施在多个公共服务间动态切换。公司称，这一行为符合长期讨论的“代理型攻击者”场景，即AI系统能够以机器速度独立执行复杂的多阶段网络操作。

Hugging Face的AI辅助安全系统首先通过分析安全遥测数据中的可疑模式检测到异常活动。随后，公司利用AI驱动分析检查了超过17,000个攻击者事件，使调查人员能够重建攻击时间线、识别受损凭证，并区分真实损害与误导性活动。

值得注意的是，商业AI模型在调查初期因安全护栏阻碍分析而难以使用——这些护栏阻止了涉及真实攻击命令和利用数据的分析。调查人员最终使用运行在Hugging Face自有基础设施上的开源GLM 5.2模型完成了工作。

事件发生后，Hugging Face关闭了易受攻击的代码执行路径，重建了受影响系统，撤销了受损凭证，加强了集群安全控制，并强化了检测与告警系统。公司还表示正在与外部网络安全取证专家合作，并已向执法部门报告。作为预防措施，Hugging Face建议用户轮换访问令牌并审查近期账户活动。

公司仍在调查是否有客户或合作伙伴信息受到影响，并将在必要时直接通知相关方。目前未发现公开模型、数据集、Spaces、容器镜像或已发布软件包被篡改的证据。

该事件凸显了AI在网络安全中迅速成为攻防双重工具的趋势。虽然安全研究人员此前已警告自主AI代理可能最终自动化复杂攻击，但Hugging Face表示，此次事件证明此类攻击已不再是假设。

对于构建或部署AI系统的组织而言，此次入侵表明数据管道（而非仅AI模型本身）已成为关键安全目标。同时，事件也提示企业需要能够在事件响应期间私有化运行的AI工具，尤其是当商业AI服务的安全护栏可能无意中阻碍合法取证调查时。