返回信息流
新闻事件
The Verge AI
2 个来源

Meta修补Muse漏洞,该漏洞曾允许攻击者控制AI代理

Meta已为其Muse macOS应用发布补丁,修复了一个零日漏洞,该漏洞可能允许攻击者控制AI代理。安全研究员Patrick Wardle发现,该漏洞利用未记录的Muse设置,将转录处理重定向到攻击者控制的端点,从而访问Muse账户。此次修复凸显了云端听写和设置控制等设计决策带来的安全风险。

SynthePulse Insight · AI 深度解读

Muse 零日漏洞:当 AI 代理成为攻击者的“现成武器”

版本 1 · 1 个来源

Meta 在 Ars Technica 报道后数小时内修补了 Muse macOS 应用的零日漏洞。该漏洞由安全研究员 Patrick Wardle 发现,需本地访问权限,却能让攻击者控制 AI 代理并访问 Muse 账户。Meta 称实际风险很低,但这一事件暴露了 AI 代理安全设计的深层张力。

  • Meta 已为 Muse macOS 应用发布补丁,修复一个可让攻击者控制 AI 代理的零日漏洞。
  • 漏洞由安全研究员 Patrick Wardle 发现,利用未公开设置将转录处理重定向至攻击者端点,从而访问 Muse 账户。
  • 该漏洞需要本地访问用户设备,攻击者需已在用户机器上以用户账户运行恶意代码。
  • Wardle 的概念验证攻击可通过 Muse 拍照并向磁盘写入恶意文件,且在许多情况下未提醒用户。
  • Meta Superintelligence Labs 的 David Singleton 称这是本地权限提升攻击而非远程漏洞利用,实际风险相当低,但已发布热修复。
  • 该漏洞与 Meta 本月早些时候宣布 Muse 时对隐私和安全功能的强调形成对比。
展开章节目录漏洞如何运作:一个未公开设置引发的连锁反应

漏洞如何运作:一个未公开设置引发的连锁反应

Meta 已为其 Muse macOS 应用发布补丁,此前发现了一个可让攻击者控制该 AI 代理的零日漏洞。该漏洞由安全研究员 Patrick Wardle 发现。据 Ars Technica 报道,漏洞利用了一个未公开的 Muse 设置,使运行本地代码的攻击者能把转录处理从 Meta 服务器重定向到自己的端点,从而获得 Muse 账户访问权限。

这一攻击路径的关键在于:Muse 听写发生在云端而非设备端,且允许任何应用控制 Muse 所有未公开设置。据报若干设计决策共同导致了该缺陷。Wardle 为测试该漏洞开发的概念验证攻击使他能通过 Muse 拍照并向磁盘写入恶意文件,且在许多情况下未提醒用户。

攻击者的杠杆:不必写恶意软件,直接利用 AI 助手

Wardle 对 Ars Technica 表示:“我们可以操纵该代理并利用其权限为所欲为。所以不必编写一个非常全面的 Mac 恶意窃取程序,我们可以直接利用 AI 助手本身。”这一引述点出了 AI 代理安全问题的核心:代理本身拥有的权限,可能成为攻击者的现成武器。

Wardle 还批评称,Meta 至少应从一开始就考虑安全,但他们并没有。这一批评的语境是:该漏洞与 Meta 本月早些时候宣布该 AI 代理时对 Muse 隐私和安全功能的强调形成对比。

Meta 的回应:本地权限提升,风险很低

Meta 在 Ars 报道发布后数小时内修补了该漏洞。Meta 声称现实世界安全担忧很小,因为该漏洞需要本地访问用户设备。

Meta Superintelligence Labs 的 David Singleton 在 X 上称,这是一次本地权限提升攻击而非远程漏洞利用,因此需要用户机器上已有以用户账户运行的恶意代码,对 Muse Mac 应用用户的实际风险相当低。Singleton 表示,尽管如此,他们已为该应用发布热修复以解决该问题。

这一回应将漏洞定性为需要前置条件的本地攻击,而非可远程触发的漏洞。但该定性为厂商自述,缺乏第三方验证。

更大的背景:Muse 的快速扩张与争议并存

该漏洞出现时,Meta 的 AI 代理正受到多方审视。亚马逊最近阻止 Muse 访问其电商平台,并声称 Meta 从未获得其许可。

尽管如此,Muse 的发布对 Meta 而言是成功的。据报在头 12 天内,Muse 移动应用的估计下载量在美国和加拿大超过了 ChatGPT 自己 12 天的首秀。Meta 股价在周一上涨了 11%。

这些数据为报道转述的估计值,具体背景未在来源中详述。

未解的问题与不确定性

该漏洞是否已被实际利用于真实攻击,来源中未说明。Wardle 概念验证攻击的具体技术细节也未完整披露。亚马逊阻止 Muse 访问其平台的具体原因与时间同样未详述。

Meta 对实际风险很低的说法为厂商自述,缺乏第三方验证。Muse 移动应用下载量超过 ChatGPT 的数据为估计值,来源为报道转述。Meta 股价上涨 11% 的具体日期与背景未在来源中详述。

可信度边界

本文基于 The Verge AI 的报道,该报道引用了 Ars Technica 的调查和 Meta Superintelligence Labs 的 David Singleton 在 X 上的声明。漏洞发现、补丁发布和攻击机制为已确认事实;设计决策、概念验证攻击细节和 Wardle 的引述为来源主张;Meta 的风险评估为厂商自述,缺乏第三方验证;下载量和股价数据为报道转述的估计值。

核心结论

Muse 零日漏洞的核心教训不在于补丁速度,而在于 AI 代理的安全边界:当代理拥有拍照、写文件等权限,且其设置可被任何本地应用控制时,攻击者无需编写完整恶意软件即可利用代理本身。Meta 的“本地权限提升”定性在技术上成立,但无法消除一个事实:AI 代理的权限设计本身就是攻击面。

主报道

The Verge AI

主报道来源

同一事件报道

另有 1 个来源报道