WhatsApp测试设备端机器学习以检测诈骗并保护隐私

WhatsApp 正在推出 Scam Alert 功能，这是一个可选功能，使用端侧机器学习模型来识别来自非联系人消息中的潜在诈骗。该功能目前仅在有限测试中可用，Meta 正在与安全研究人员一起测试并收集反馈，然后才会更广泛地推出。

该模型会寻找与已知诈骗相关的语言和对话模式。如果检测到可能的诈骗，WhatsApp 会显示仅接收者可见的警告。用户随后可以阻止或举报发件人、继续对话或将聊天标记为可信。

Meta 表示，Scam Alert 的设计初衷是在不赋予 WhatsApp 访问用户加密对话权限的情况下工作。检测模型在设备本地运行，消息内容不会自动发送回公司。

公司还表示，无法利用该系统向特定用户选择性发送特定 AI 模型。每个模型版本在分发前都会记录在第三方透明账本上，设备在加载模型前会验证发布的签名和文件哈希。

WhatsApp 还会收集有限的性能数据，例如警告出现的频率以及用户之后的行为。据 Meta 称，这些数据是聚合的，并通过机密计算和差分隐私进行保护，而不是暴露个人对话。

如果警告是错误的，将对话标记为可信会移除警告，并防止 Scam Alert 再次标记该聊天。用户还可以自愿将可信对话中的最后五条消息分享给 WhatsApp，以帮助改进模型。

用户最终将能够在 WhatsApp 的“账户 > 请求信息 > Scam Alert 活动”中查看 Scam Alert 活动，包括分析了哪些消息、结果以及涉及的模型版本。

该功能的推出正值诈骗分子越来越多地利用消息平台建立信任、施压受害者并索取金钱或个人信息之际。美国联邦贸易委员会称，2025 年消费者报告的社交媒体诈骗损失达 21 亿美元，其中 4.25 亿美元与 WhatsApp 相关（据 CNET 报道）。

这使得基于手机的方法尤为重要：WhatsApp 试图在不要求其服务器检查私人对话的情况下增加一层自动化保护。

Scam Alert 可以在用户回复陌生发件人之前提供有用的第二意见，但它并不能保证消息是安全或欺诈的。机器学习可能会漏掉复杂的诈骗，或错误地标记合法对话。

Scam Alert 仍是一个实验，而非最终的安全功能。Meta 表示将继续与安全研究人员测试该系统，扩大漏洞赏金覆盖范围，并在决定是否广泛推出之前完善模型。

如果这种方法奏效，WhatsApp 可以在不放弃其服务所定义的隐私模式的情况下，增加一层额外的诈骗保护——但用户仍需将任何自动警告视为指导而非证据。