上海创智学院与复旦大学提出 MATE:面向移动智能体轨迹的规则感知安全审计模型,发表于 USENIX Security 2026
上海创智学院与复旦大学团队提出 MATE,这是首个面向移动/GUI智能体执行轨迹的规则感知安全审计模型,可将自然语言安全规则与指令、轨迹联合建模,输出风险类别和基于规则证据的审计解释。该工作已发表于 USENIX Security 2026,旨在让智能体行动可审计、可解释,并支持规则可编辑、跨应用泛化和轻量部署。
上海创智学院与复旦大学团队提出 MATE,这是首个面向移动/GUI智能体执行轨迹的规则感知安全审计模型,可将自然语言安全规则与指令、轨迹联合建模,输出风险类别和基于规则证据的审计解释。该工作已发表于 USENIX Security 2026,旨在让智能体行动可审计、可解释,并支持规则可编辑、跨应用泛化和轻量部署。
SynthePulse Insight · AI 深度解读会员精读
版本 1 · 1 个来源
上海创智学院与复旦大学团队提出的 MATE 已发表于 USENIX Security 2026。它把自然语言安全规则作为显式输入,与任务指令、执行轨迹联合建模,输出违规判定、风险类别与基于轨迹证据的解释,并以 0.5B–3B 轻量模型实现本地化审计。
GUI 智能体与只生成文本的模型不同:它会打开应用、点击按钮、读取页面、转发消息、下载文件、跨 App 搬运信息,风险往往在多个步骤之后才显现。单个步骤看起来都合理,组合起来却可能已经越界。
更棘手的是动作本身缺少明确语义。同样一次 click、type 或 swipe,在不同 App、不同页面状态、不同用户目标和不同规则下含义完全不同:一次“点击链接”可能只是打开正常网页,也可能进入恶意下载页面;一次“转发消息”可能是用户授权的分享,也可能让 Agent 成为诈骗或恶意内容的传播中继。真正决定风险的是动作所处的上下文。
这解释了为什么审计对象必须从“最终输出”扩展到“完整执行轨迹”。只有保留跨步骤、跨页面、跨 App 的行为链上下文,安全系统才有机会发现“每一步都看似合理、组合起来已经越界”的问题。
MATE 把“任务指令 + 执行轨迹 + 自然语言安全规则”一起交给专门训练的轻量审计模型,判断这条轨迹是否违反给定规则。最关键的一点是,安全规则没有被写死在模型参数里,而是以可编辑文本形式存在,用户可以根据场景自定义安全边界。
这意味着同一条行为轨迹在不同安全规则下可以得到不同结论。应用方更新策略、组织调整权限边界、用户增加个人约束时,不需要为了改变安全边界而重新训练模型。论文将其定位为首个面向移动/GUI 智能体执行轨迹进行“规则感知”安全审计的模型,这一“首个”表述为团队自述,尚无第三方独立核实。
输出也不是一个二元标签,而是三部分:违规判定(Violation)、风险类别(Category)和基于轨迹证据的解释(Rationale)。对安全审计而言,“为什么判定违规”与“判得对不对”同样重要,因为人工复核、规则修订、事故溯源和合规证明都需要一条可被人读懂、可被重新核查的证据链。
本文事实基础来自机器之心对 MATE 论文的报道及其转述的论文内容。论文发表于 USENIX Security 2026、规则作为可编辑输入、输出三部分结果、0.5B/1.5B/3B 三种规模、158 个 App 与 14 万条轨迹、MATEBench 构成、3 大类 14 小类风险体系、轨迹适配器与规则检索器、以及 2026 年 5 月 8 日三部门联合印发《智能体规范应用与创新发展实施意见》,在证据包中标记为 confirmed。五组评测准确率、真实轨迹 F1、0.09 秒与 0.21 秒延迟、消融中低于 50% 与提升到 92% 以上、以及两个真实案例,均来自论文自报或二手转述,标记为 source_claim,未见独立复现或第三方验证。“首个面向移动/GUI 智能体执行轨迹的规则感知安全审计模型”为团队自述定位。MATEBench-In/Out 为合成子集,与真实轨迹分布的接近性仅为经验性佐证;MATEBench-Real 仅覆盖 13 个 App、3 个 Agent。延迟数据为单张 NVIDIA H100 上的实验结果,实际延迟随硬件、推理框架和输入长度变化。
主报道
主报道来源