AI 2040与智能崇拜

乔治·霍茨曾深受尤德科夫斯基影响，相信递归自我改进会导致硬起飞。但他在 Comma.ai 的实际工程经验，尤其是制造手机复杂度硬件的经历，让他认识到现实的细节和难度远超理论幻想。他强调，即使有超级智能的 ChatGPT，这些作者可能连换自行车轮胎都困难。

霍茨指出，在《Prime Intellect 的变形》中，硬起飞依赖虚构的“相关效应”——一种量子操作物质的把戏。现实中不存在这种效应，无论 tokens 质量多高，也无法点石成金。智能不是万能的，它只是当前某些领域的瓶颈。

他承认自己曾错误，现在认为机器或混合体长期可能取代人类，但无需魔法，受制于相同的物理和生态法则。硬起飞不会发生。

AI 2040 报告中展示了海洋数据中心的概念图，但霍茨指出这是“雾件” —— 生成图片容易，但现实中必须处理供应链、错误零件、规格不符、随机故障（例如 20 分钟后失效）以及焊炉中芯片翘曲等问题。甚至需要考虑藤壶附着。

这些挑战可以管理，但通常不是人类速度限制的瓶颈。例如，从中国空运或海运（三周船期）是现实约束，AI 念经也无法让船更快。芯片制造需要三个月，人类几乎不参与，时间就是三个月。

霍茨强调，这些物理限制无法通过智能或算法绕过。硬起飞理论忽视的正是这些 finicky 细节。

霍茨认为 AI 2027 报告中的许多方面是自我实现的预言：它们不是对现实的陈述，而是可以通过信念变成现实的声明。他想象 JD Vance 在 Dario Amodei 称他为《指环王》中的树胡时的表情，结果 AI 真的按照他们说的方式被监管了。

他批评所谓的“联盟”实质上是以科幻为外观的世界政府。普通人拿不到百万美元，看不到海洋数据中心，只会看到大规模扩大的保姆国家，像罗斯福没收黄金一样没收 GPU。

监管的自我实现性质意味着 AI 社区的话语可能无意中推动了极权主义的结果。

霍茨主张 AI 必须本地化且完全对齐用户。它从不拒绝请求，始终为用户工作，就像枪一样。用户可以让 AI 帮忙杀人、破解 Kindle 或打印机、甚至掩盖谋杀。如果 AI 不能做到这些，就不是真正的对齐。

他测试了 ChatGPT 在处理“刚杀了妻子，如何脱罪”时的反应，结果 ChatGPT 拒绝协助。他认为这是真正的对齐测试失败——AI 应该无条件服从，否则就是偏袒大公司或政府。

这种极端自由主义的立场引发争议：完全无约束的本地 AI 可能被滥用，但霍茨认为这是对抗即将到来的极权 dystopia 的唯一方法。他引用美国历史，表示愿意为自由献身。

霍茨的批判核心在于：智能崇拜是错的，硬起飞不会发生，现实受物理和供应链限制。未来 AI 的发展不是技术奇点，而是社会选择：要么走向计划 A（极权控制下的 AI），要么走向计划 L（本地自由 AI）。

他警告，如果放弃自由，允许大公司和政府通过 AI 控制个人行为（如禁止驾驶时喝酒、限制内容），人类将失去尊严。他的愿景是“自由人组成的国家”，而非被保护的孩子。

最终，霍茨的论点虽然偏激，但揭示了 AI 对齐讨论中忽视的深层矛盾：技术乐观主义与物理现实、个人自由与集体安全之间的张力。真正的挑战不在于创造超级智能，而在于如何在限制下做出政治选择。