Import AI 457：AI震网、诅咒的Muon优化器和正向对齐

SentinelOne 的研究人员发现了一个名为 fast16.sys 的 20 多年前的计算机病毒，它“选择性地针对高精度计算软件，在内存中修补代码以篡改结果”。该病毒通过自我传播机制，旨在“在整个设施中产生等效的不准确计算”。

病毒注入的代码块包含“一个更大且复杂的浮点单元指令序列，专门用于精度算术和缩放内部数组中的值”，这是一个“独立的数学计算函数，与代码流劫持或任何其他典型的恶意代码注入无关”。

研究人员将补丁规则转换为 YARA 签名后，在大型语料库中匹配到“不到十个文件”，这些文件“共享一个明确的主题：它们是专业领域中的精度计算工具，如土木工程、物理和物理过程模拟”。最强的重叠指向三个高精度工程和仿真套件：LS-DYNA 970、PKPM 和 MOHID 水动力建模平台。其中 LS-DYNA 曾被公开报道与伊朗涉嫌违反 JCPOA 第 T 节有关，用于核武器开发的计算机建模研究。

Tilde Research 的研究人员发现 Muon 优化器存在严重缺陷：“Muon 的更新继承了 tall 矩阵上的行范数各向异性，这可能导致 MLP 层中相当一部分神经元永久死亡”。具体来说，“在 Muon 下，神经元最初活跃且具有均匀的高杠杆，但在学习率预热期间，大量神经元死亡且无法恢复。到第 500 步时，超过四分之一的神经元实际上已经死亡”。

作为回应，研究人员提出了 Aurora，一种“针对矩形矩阵的杠杆感知优化器”。在 1.1B 参数 transformer 模型上训练约 100B token 后，“Aurora 达到了所有方法中最低的最终损失，在第 24k 步时平滑损失为 2.26，明显优于 Muon（2.31）和 NorMuon（2.33）”。Aurora 的损失改进转化为标准基准上的一致收益，“Aurora 将 MMLU 分数提高了 10 分”。Pleias 的研究员 Alexander Doria 已在 600M 参数模型上独立验证了 Aurora 优于 Muon 和 AdamW。

来自牛津大学、Google DeepMind、OpenAI、Anthropic 等机构的研究人员发表了一篇立场论文，提出了“正面对齐”的概念。他们将其定义为“开发 AI 系统，使其（i）保持安全与合作，并且（ii）以多元化、多中心、情境敏感和用户授权的方式积极支持人类和生态繁荣”。

论文指出：“在过去的十年中，负面对齐理所当然地优先考虑了故障模式减少。然而，如果我们希望 AI 系统在实际使用的环境中改善人类成果，我们可能需要一个额外的研究计划，将对齐视为对人类目标的建设性支持”。他们警告说，“仅采取负面姿态可能会将我们的信息生态优化为风险规避而非人类发展，可能会减少灾难性错误，同时使社会陷入肤浅和‘无灵魂’辅助的局部最优”。