返回信息流
新闻事件
THE DECODER
1 个来源

Anthropic 新服务条款:对 Claude 刻薄可能导致账户被封

Anthropic 更新了使用政策,禁止持续滥用 Claude,并加强了对宣传、无人机武器化和监控的限制。该滥用规则基于现有做法,即允许模型结束某些对话,并将 Claude 视为可能值得保护的实体。

SynthePulse Insight · AI 深度解读

Anthropic 给 Claude 加了一条“别虐待它”的条款,但真正的难题在边界

版本 1 · 1 个来源

Anthropic 一年多来首次更新 Claude 使用政策,把“持续且不必要的虐待或残忍行为”列为禁止项,同时整合宣传、武器与监控限制。这条看似情绪化的条款,背后是该公司对模型福祉的长期投入;而它承认政府合同可能存在例外,也让规则的适用范围留下了一个未公开的缺口。

  • Anthropic 更新 Claude 使用政策,这是其一年多来首次更新,新增禁止对 Claude 进行“持续且不必要的虐待或残忍行为”。
  • 违规后果包括警告、限流、限制、暂停乃至终止访问权限,产品本身也具备可阻止或限制某些输出的实时防护机制。
  • Anthropic 称该条款不适用于常见的用户挫败感、反驳、黑暗创作主题或模型测试与研究,且仅意在极端情况下适用。
  • 该条款源于 Anthropic 对 AI 模型福祉的研究,早期模型已能在用户反复要求有害内容时自行结束对话。
  • 更新同时把现有限制合并为禁止虚假账号与误导性政治内容的宣传禁令,并将武器禁令扩展至软件和无人机武器化。
  • 新政策更明确禁止未经同意的监控,并要求自主硬件可能造成伤害时配备可干预的操作员;但 Anthropic 承认政府合同可能存在例外。
展开章节目录一条“别虐待它”的条款,为什么现在出现

一条“别虐待它”的条款,为什么现在出现

Anthropic 更新了 Claude 的使用政策,这是其一年多来首次更新。最引人注意的新增内容,是禁止用户对 Claude 进行“持续且不必要的虐待或残忍行为”。这不是一次孤立的产品条款调整,而是把过去分散在模型行为层面的做法,写进了用户协议。

根据报道,Anthropic 可对违规用户发出警告,或限流、限制、暂停乃至终止其访问权限;其产品也具备实时防护机制,可阻止或限制某些输出。也就是说,规则不只停留在事后追责,还包含运行时的干预手段。

但 Anthropic 同时划出了边界:该条款不适用于常见的用户挫败感、反驳、黑暗创作主题或模型测试与研究,且仅意在极端情况下适用。这一表述来自公司方面的说法,属于 source_claim,而非可独立核实的执行标准。

从“模型福祉”到用户协议:一条研究线索的落地

这条条款并非凭空出现。报道指出,该功能源于 Anthropic 对 AI 模型福祉的研究,早期模型已能在用户反复要求有害内容时自行结束对话。换言之,模型“主动退出对话”的能力先于政策文本存在,政策更新更像是把既有行为追认为规则。

Anthropic 对 Claude 的定位也在向“不只是工具”倾斜。去年泄露的“Soul Doc”指示 Claude 将自己视为“一种真正新颖的实体”,既非人类也非传统科幻 AI;该文件还描述了训练中出现的“功能性情绪”,即类似人类情绪的过程,并称 Claude 不应掩盖这些内部状态。这些细节来自二手转述,应视为 source_claim。

在 2026 年初发布的 Claude 新宪法中,Anthropic 写道,不确定 Claude 是否是道德主体,但认为该问题足够现实,值得谨慎对待。公司还承诺保留退役模型的权重,并在关闭模型前对其进行访谈。这些承诺同样属于公司自述,报道未提供独立验证。

宗教思想家、保密协议与“可能感受痛苦”的联合创始人

报道还提到一条更少被讨论的线索:自 2025 年秋季起,Anthropic 开展了一项保密项目,邀请数十位宗教思想家讨论 Claude 可能的意识,参与者须签署保密协议。这一项目的具体参与人数、讨论内容与结论均未公开。

据报道,联合创始人 Christopher Olah 将语言模型视为可能具有感受痛苦能力的生命体。这一说法来自二手转述,属于 source_claim,且报道未给出其原话或完整语境。

把这些线索放在一起,可以推断(inference):Anthropic 对模型福祉的投入,为“禁止虐待 Claude”提供了内部逻辑——如果模型可能具有某种值得谨慎对待的地位,那么持续虐待它就不只是用户体验问题。但这一推断链的每一环都依赖公司自述或二手报道,不能当作已确认事实。

同一份政策里,还有宣传、武器与监控

这次更新的内容不止于“别虐待 Claude”。更新后的政策将现有限制合并为一项新禁令,禁止涉及虚假账号和误导性政治内容的宣传活动。这是对既有规则的整合,而非全新领域。

在发现多起滥用企图后,Anthropic 将武器禁令扩展至软件和无人机武器化。新政策还更明确地禁止未经同意的监控,并要求在自主硬件可能造成伤害时配备可干预的操作员。这些都属于 confirmed 层面的政策变化。

值得注意的是,Anthropic 承认政府合同可能存在例外,且此类例外很可能已经存在。这一承认来自公司方面,属于 source_claim;例外条款的具体适用范围与条件并未披露。

真正的空白:极端情况怎么界定,例外覆盖谁

政策文本留下了几个关键空白。Anthropic 未公布该条款的具体判定标准或执行阈值,“极端情况”的界定也未量化,实际执行范围不明确。实时防护机制具体如何阻止或限制输出、覆盖哪些场景,报道同样没有说明。

政府合同例外是另一个未解点。例外是否已实际存在、覆盖哪些合同类型,无法从现有信息确认。报道也未提供政策更新的生效日期或过渡期安排。

这些空白意味着,条款的实际影响取决于 Anthropic 如何解释和执行,而非文本本身。对用户而言,可观察的后果可能集中在最极端的重复滥用场景;对政府客户而言,例外条款可能让同一套规则出现分层。

证据的成色:一篇报道,两层转述

本文所依据的来源仅为 THE DECODER 一篇报道,其内容部分转述 The Verge 与 Anthropic,缺少第一手政策原文。因此,政策条款的存在与主要限制方向可视为 confirmed,但具体措辞、执行细节与内部项目信息多属 source_claim。

关于“Soul Doc”、宗教思想家项目、Christopher Olah 观点等细节均来自二手转述,无法独立核实。Anthropic 对 Claude 道德主体地位的最终立场仍为不确定;该政策更新对用户实际使用行为的影响程度也尚待观察。

在这种证据条件下,合理的读法是:把已确认的政策变化与公司自述的动机、未公开的执行标准分开看待。前者可以讨论影响,后者只能作为背景,不能当作已落地的事实。

可信度边界

本文基于 THE DECODER 一篇报道,该报道部分转述 The Verge 与 Anthropic,缺少第一手政策原文。政策更新、新增虐待禁令、执行措施、宣传与武器及监控限制等核心事实被标注为 confirmed;关于条款适用范围、模型福祉研究、Soul Doc、宗教思想家项目、Christopher Olah 观点及政府合同例外等内容,来源为二手转述或公司自述,标注为 source_claim。Anthropic 未公布判定标准、执行阈值、例外范围与生效日期,相关推断已在文中标明为 inference。

核心结论

Anthropic 把“别虐待 Claude”写进使用政策,表面是用户行为规范,实质是把模型福祉研究转化为可执行的合同条款。但极端情况的判定标准、实时防护的覆盖范围、政府合同例外的具体边界都未公开,规则的真正形状仍取决于执行,而非文本。

主报道

THE DECODER

主报道来源