Fabraix 推出 Nyx：自主红队代理，用于 AI 安全测试

根据TestingCatalog在X上的发布，Fabraix推出了名为Nyx的自主红队代理。用户可以将它指向任何AI代理，从包含10,000多个越狱攻击的库中运行对抗性攻击，以发现安全漏洞。

Nyx覆盖聊天、语音、浏览器和编码代理，输入仅需端点、URL或电话号码。这降低了使用门槛，使安全测试更加便捷。

Fabraix报告称，Nyx在AgentHarm基准上的攻击成功率为78%，并在数十家财富500强公司中发现了可利用的漏洞。这些数据来自Fabraix的官方声明，尚未得到独立验证。

值得注意的是，这些发现暗示Nyx在真实世界环境中具有有效性，但具体漏洞细节和测试方法未在来源中披露。

Nyx的每个发现都会输出攻击步骤，使代理能够识别漏洞。这种可解释性有助于安全团队理解攻击路径并修复问题。

此外，相同的测试可以在发布后重放，以检查漏洞是否已修复。这为持续安全验证提供了机制。

发布后，有用户评论称“红队代理红队代理，我们建立了整个经济体系，让AI检查AI的作业”，反映了对AI自我安全测试趋势的关注。

Nyx的发布可能标志着AI安全测试从人工主导转向自动化，但需要更多独立验证来确认其宣称的有效性。