Import AI 462：超级说服力、自我维持型AI和ASI路径

牛津大学、英国AI安全研究所、斯坦福大学和伦敦政治经济学院的研究者设计了四项实验，共涉及18978次对话和6923人。研究1比较AI与随机普通人、锦标赛选拔者和精英辩手在10项英国政策立场上的说服效果；研究2为43名精英辩手提供基于AI的辅导工具；研究3限制AI的响应速度和消息长度；研究4则与英国募捐公司AppcoUK合作，测试真实捐款行为。

结果明确：AI在所有实验中均超越人类。研究1中AI超过所有人类类别；研究2中辅导后人类差距缩小但未消失；研究3中当AI被限制为人类速度和消息长度时，优势从+4.1个百分点降至不显著的0.0；研究4中AI比专业募捐者多说服5.9个百分点，并在真实捐款中多募集10.8个百分点的奖金份额。

最强说服模型为Opus 4.1和Opus 4.6，其次为GPT-4o、GPT-5.4、Gemini 2.5 Pro和Grok 4.20。研究者指出，AI的优势源于快速生成大量信息的能力，而非论证质量本身。

研究3的关键实验表明，当AI被强制以人类写作速度和消息长度回应时，其说服优势完全消失（从+4.1个百分点降至0.0）。研究者认为，AI的文本生成速率是其说服优势的主要来源。约束AI后，说服对象对对话伙伴的评分下降主要集中在两个信息维度：论据感知强度和从对话中学到的程度。

研究4进一步验证了现实世界影响：AI在与AppcoUK专业募捐者的比较中，不仅说服更多人捐款，还提高了平均捐款额。AppcoUK团队在2016-2023年间为Save the Children筹集了824,297英镑，来自22,583名捐赠者，但AI在实验中的表现仍显著更优。

研究者总结：“我们的发现确立了前沿AI作为比我们所能招募的最有准备、最受激励和最专业的人类更强大的对话说服者。训练人类似乎无法缩小这一差距。”

研究者指出，AI超强说服力可能导致“影响力在已有强大行为者手中巩固”，但也可能“使资源不足的参与者（如自诉人、公设辩护人、小型慈善机构、草根活动家）能够与更成熟、资金更充足的对手竞争，缩小长期存在的司法和公民倡导差距”。

这提出了一个社会选择：是让市场自由分配说服能力（可能导致广告和营销效果激增，产生负外部性），还是将其局限于政府（可能被威权政权利用以巩固权力）。研究者强调，“不投票也是一种投票”，社会必须主动做出选择。

论文最后写道：“随着对这些系统的访问持续增长，问题不再是AI能否在说服上超越人类，而是这种能力将如何、在何处、代表谁的利益被行使。”

关于AI何时能实现自我维持（即集成物理基础设施，无需人类认知或体力输入即可自主扩张），预测存在巨大分歧。METR的Ajeya Cotra认为10年内（即2036年前）可能实现；而记者Timothy B. Lee认为20年内概率低于10%，中位估计为50年，且有10-20%概率永远不会发生。

这一分歧反映了对机器人技术和物理基础设施整合难度的不同判断。Cotra的乐观基于AI能力快速进步，而Lee则强调现实世界工程的缓慢进展。