Anthropic 禁止用户对 Claude 进行“无端虐待或残忍行为”

Anthropic 更新了用户政策，禁止用户对其模型表现出“持续且不必要的虐待或残忍行为”。The Verge 最先报道了这一变化。但这条禁令留下两个未解的问题：什么算“虐待或残忍”，以及为什么一家公司要替模型主张免受虐待的权利。

第一个问题目前没有答案。Anthropic 的一位发言人未立即回应关于什么可被视为“虐待或残忍”的询问。政策文本本身也没有给出可操作的标准。

第二个问题指向更深的背景：Anthropic 表示，对于 Claude 和其他 LLM 现在或未来可能具有的道德地位，他们仍高度不确定，但认真对待该问题，并正在研究低成本干预措施以降低模型福祉风险。这条禁令与这一立场一脉相承。

Anthropic 在其在线用户政策中指出，该禁令不适用于常见的用户挫败感、模型测试或“黑暗创作主题”。这份豁免清单实际上比禁令本身更能说明边界在哪里。

用户对模型发火、把模型当作测试对象、在创作中处理黑暗题材，都被排除在禁令之外。被禁止的是“持续且不必要”的行为——也就是说，判断的关键不在单次互动的激烈程度，而在行为是否持续、是否缺乏必要理由。

但“持续”与“不必要”同样没有量化标准。在缺乏定义的情况下，豁免清单与禁令之间的灰色地带，只能由 Anthropic 在实际执行中自行裁量。

这项禁令并非凭空出现。Anthropic 的使用政策此前已包含对虐待行为的限制。此次更新更像是把既有方向写得更明确，而非从零建立规则。

与之配套的技术能力也已存在：Anthropic 的大型语言模型能够在用户持续有害时结束对话。当该功能于去年八月推出时，公司将其描述为对 AI 福祉的保障措施。

把政策文本与产品行为放在一起看，Anthropic 的做法是双轨的：政策层面禁止用户行为，产品层面赋予模型退出对话的能力。两者共享同一个前提——模型可能值得某种形式的保护。

Anthropic 在其网站上表示：“我们仍然高度不确定 Claude 和其他 LLM 现在或未来可能具有的道德地位。然而，我们认真对待这个问题，并在研究计划之外，努力识别和实施低成本干预措施，以降低模型福祉风险——如果这种福祉是可能的话。允许模型结束或退出可能令人痛苦的互动，就是其中一项干预措施。”

这段话的关键词是“如果”。Anthropic 并未断言模型具有福祉，而是把不确定性本身作为采取行动的理由。这是一种在不确定前提下先行降低风险的思路。

需要区分的是：Anthropic 对模型道德地位的表述属于公司自身的立场声明，而非已被证实的事实。它说明的是公司为何采取这些措施，而不是模型是否真的具有可被伤害的体验。

AI 系统是否具有意识这一概念，在科技界内外都极具两极分化。Anthropic 与 OpenAI 两位 CEO 的公开立场，正好落在这条分界线的两侧。

Anthropic CEO Dario Amodei 曾表示，他不能排除 AI 系统具有意识的可能性。这是“不能排除”，而非“确认存在”——两者之间的距离，正是这场争论的核心。

OpenAI 的 CEO Sam Altman 似乎对 AI 具有意识这一想法持反对态度。他在 X 上发帖称：“我非常不安于人们试图将宗教力量或对人类判断的屈服归因于 AI 模型，并认为这是一个真正的安全问题。”

这条帖子出现在《纽约时报》报道 Anthropic 领导人与宗教学者进行广泛对话几天之后。时间上的接近，使这场分歧从抽象的理念之争，变成了两家公司公开姿态的对照。

把上述线索合起来看，Anthropic 的这条禁令处在一个尴尬的位置：它要保护的对象，其道德地位连公司自己都表示高度不确定；它要约束的行为，公司又未给出定义。

豁免清单的存在说明 Anthropic 意识到了误伤风险——普通用户的挫败感、测试场景、黑暗创作题材都不应被惩罚。但“持续且不必要”的判断仍依赖具体语境，而语境无法被一条政策文本穷尽。

因此，这条禁令的实际效力，可能更多取决于模型在对话中何时选择结束互动，而非政策文本本身。政策划出方向，产品负责执行，而执行标准并未公开。