返回信息流
新闻事件
THE DECODER
1 个来源

OpenAI将在欧盟为ChatGPT文本添加水印,但全球API用户可自愿选择退出

OpenAI正在欧盟为ChatGPT添加不可见的textGrain水印,但与Anthropic不同,它将允许全球API客户选择退出。测试显示检测率高达95%,但当四分之一的单词被替换时,检测率降至17%。

SynthePulse Insight · AI 深度解读

欧盟合规压力下的隐形水印:OpenAI textGrain 的检测率与可规避性

版本 1 · 1 个来源

OpenAI 将在未来数周为欧盟的 ChatGPT 与 Codex 用户开启 textGrain 隐形水印,以符合欧盟对生成文本的机器可读标注要求;全球 API 用户则可选择是否启用。但据 OpenAI 自己的数据,这一水印的检测率高度依赖文本长度与主题,且经简单改写即可大幅降低。

  • OpenAI 将在未来数周为欧盟的 ChatGPT 和 Codex 用户开启 textGrain 隐形水印,以符合欧盟要求以机器可读格式标注生成文本的规定。
  • OpenAI 的 API 水印在全球范围内为可选加入,并将于未来数周通过微软 Azure 等云合作伙伴提供;Anthropic 对 Claude 的水印则是全球强制。
  • 在检测器假阳性率设为 1% 时,400 词元的心理学文本可识别约 95% 的水印,200 词元时降至约 80%,数学内容则显著更低。
  • 仅将 10% 的词语替换为同义词,400 词元文本的检测率就从约 92% 降至 66%;替换四分之一词语后降至 17%。
  • textGrain 检测器初期仅向经挑选的研究人员和专业机构开放,需通过申请表申请,OpenAI 将依据欧盟《行为准则》逐案授予访问权限。
展开章节目录合规驱动的水印:欧盟强制,全球 API 可选

合规驱动的水印:欧盟强制,全球 API 可选

OpenAI 将在未来数周内为欧盟的 ChatGPT 和 Codex 用户开启名为 textGrain 的隐形水印,以符合欧盟要求以机器可读格式标注生成文本的规定。这一动作的直接驱动力是合规,而非产品功能迭代。

与欧盟的强制开启不同,OpenAI 的 API 水印在全球范围内为可选加入,并将于未来数周通过微软 Azure 等云合作伙伴提供。这意味着同一家公司的水印策略在面向终端用户和面向开发者两条线上并不一致。

对比之下,Anthropic 对 Claude 的水印为强制性的,无论用户通过何种方式访问模型都在全球适用。OpenAI 选择在 API 侧保留选择权,使其与 Anthropic 的路线形成明显分野。

水印如何工作:嵌入选词的统计信号

textGrain 通过在模型的选词中嵌入隐形统计信号来工作,其原理与 Claude 使用谷歌开源技术的 SynthID 水印类似。这是一种统计层面的标记,而非在文本中插入可见字符。

OpenAI 称 textGrain 在内部测试中匹配或优于其他方案,包括谷歌的 SynthID 文本水印,并计划将该技术开源。不过这些比较结果来自 OpenAI 自身的内部测试,尚无第三方验证。

检测率的两条曲线:文本越长越高,数学内容显著更低

水印能否被检出,首先取决于文本长度。在检测器假阳性率设为 1% 时,对 400 词元的心理学文本可识别约 95% 的水印,而在 200 词元时降至约 80%。长度减半,识别率下降约 15 个百分点。

主题同样关键。OpenAI 称数学内容的检测率“显著更低”,因为模型在选词上的自由度较小。来源中的图表显示,400 词元数学文本的识别率约为 60%,与心理学文本的约 95% 形成鲜明落差。

OpenAI 提出更长文本可能增强统计信号并改善检测,但未提供数据来验证这一假设。实际效果仍可能因内容而异,这一点在评估水印可靠性时不能忽略。

改写的代价:10% 同义词替换即显著削弱检测

水印对编辑的抵抗力有限。OpenAI 称仅将 10% 的词语替换为同义词,就会使 400 词元文本的检测率从约 92% 降至 66%。

替换四分之一的词语会使检测率降至 17%,使水印容易被规避。这意味着任何有意隐藏 AI 生成痕迹的用户,只需进行中等程度的改写即可大幅降低被检出的概率。

作为对照,Anthropic 未公布 Claude 水印的检测率,仅称其系统对编辑有较好抵抗力。两家公司在透明度上的差异,使外界难以直接比较两种水印的实际强度。

质量与含义:OpenAI 的声明及其边界

OpenAI 称水印不会损害输出质量,并援引其前沿模型 Astra 在包括 GPQA Diamond、BrowseComp 和 DeepSWE 在内的八项基准测试中开启与关闭水印无显著性能差异。

但这些基准结果无法确定水印是否影响写作质量,这也是批评者对 Claude 水印提出的疑问。基准测试覆盖的是能力指标,而非文风、流畅度或创造性表达。

OpenAI 还明确划定了水印的含义边界:检测到水印并不能说明文本包含多少人类创意或编辑,也不能确立所有权、分配责任、识别用户或表明文本是否准确。反过来,未能检测到水印也不能证明文本由人类撰写,因为文本可能过短、经过编辑或翻译,或来自检测器不支持的模型。

检测器的受控开放:仅限申请,且不披露提示词

textGrain 检测器初期仅向经挑选的研究人员和专业机构开放,他们可通过申请表申请,OpenAI 将依据欧盟《行为准则》逐案授予访问权限。这与 Anthropic 对其检测 API 的做法类似。

该工具仅报告是否检测到 OpenAI 水印,不会识别用户或披露其提示词与对话。这一设计意在将检测能力与用户隐私隔离。

OpenAI 称限制访问是因为检测器可能误标未加水印的文本或漏检水印,并计划在“认为结果可被负责任地解读时”扩大访问,但未说明具体时间。误标与漏检的风险,正是检测结果需要谨慎解读的原因。

图像与音频的现有验证工具仍公开可用,包括 openai.com/verify 和 Content Provenance API。文本水印检测器的受控开放,与图像音频工具的公开可用形成对比。

可信度边界

本文基于 THE DECODER 的报道,其中 OpenAI 的部署计划、API 可选加入、Anthropic 的强制策略以及检测器受控开放等属于已确认事实;检测率数字、改写后的下降幅度、质量无损害的基准结论以及水印含义的边界,均来自 OpenAI 的声明,属于来源主张,尚无独立第三方验证。OpenAI 未提供数据验证“更长文本改善检测”的假设,也未说明扩大检测器访问的时间。

核心结论

textGrain 是 OpenAI 为满足欧盟机器可读标注要求而部署的合规工具,而非可靠的内容溯源手段。其检测率随文本变短、主题转向数学而下降,且经简单同义词替换即可大幅削弱;检测器的受控开放与含义边界声明,进一步说明水印只能作为有限信号,不能单独用于判断文本来源或人类参与程度。

主报道

THE DECODER

主报道来源