中国研究人员提出五级框架，评估AI递归自我改进进展

围绕AI自我改进的讨论常常滑向两个极端：一边是“机器已经开始自我进化”的叙事，一边是“这不过是自动调参”的否定。上海交通大学和Theseus Labs等机构研究者领衔的团队在arXiv上发布的这篇论文，试图用一把更细的尺子切开这个模糊地带。它提出一个五级（L5）框架，用来衡量AI系统在识别自身弱点、做出持久改变并改进未来版本开发方式方面的进展。

需要先明确这篇论文的性质：它主要是综述与框架提议，而非展示一个新的自我改进AI模型。它的贡献不在于跑出一个更强的系统，而在于尝试区分真正的递归改进，与那些仅仅修订答案、优化代码或在人类设定规则下从更多数据中学习的系统。

研究者给出的严格定义是：递归自我改进要求一个改进周期的结果改变后续改进的生成、评估、选择或保留方式。这个定义把门槛抬得很高——一个编码智能体反复修复程序，并不等于它变得更善于决定该尝试哪种修复；一个模型从新病例中学习，也不等于它掌握了这些病例如何被选择、评估和加入训练的权力。

框架从B0开始：系统能在单个任务内打磨输出，但改变不会延续到未来工作，比如聊天机器人在回答前重写自己的答案。第1级从一次被接受的改变持久化开始——智能体可以造一个有用的工具、修复部分软件或存下一项新技能，并在之后复用，但改进流程仍由人设计。

第2级是系统对自身改进策略获得一定控制权：它不再只是按指令更新某个指定组件，而能决定是改提示、工具、记忆、模型权重还是工作流。研究者发现，这是当前证据相对广泛支持的最高级别。

第3级把控制权扩展到学习所依赖的经验本身：系统可以生成新的训练问题、主动寻找信息，或针对自身弱点设计课程。第4级把这一过程延伸到部署阶段，系统从变化的环境中收集反馈并做出持久更新，理论上无需等待常规的人类主导发布。

第5级是分水岭：产生改进的机制本身成为改进目标。AI可能修订用来开发候选更新的策略、改进自己的评估器，或改变管辖后续实验的研究政策，而这些被修订的机制会被后继系统继承。研究者写道，对软件开发改进器本身的完整L5级改进尚未得到证明。

论文引用的一个例子中，一个自主训练系统保留了早先模型开发实验的经验，并用它指导后续训练选择。在涉及一个300亿参数模型的四轮实验中，外部评估分数从0.80提升到0.86，而最佳人类提交为0.87。这个数字常被拿来当作“AI在自我改进”的证据，但它同时也是一个提醒：它仍低于人类最好成绩。

研究者讨论的另一个系统演化出编码智能体，将SWE-bench软件工程基准某一子集上的表现从20%提升到50%。但论文特别指出，用于筛选哪些智能体被复现的存档和规则仍固定于自我修改系统之外。也就是说，被改进的是智能体，而不是决定“谁被保留”的那套机制。

这两个案例合起来说明了论文的核心判断：更好的表现并不必然证明AI变得更善于改进自身。收益可能来自更多算力、反复尝试或外部设计的搜索过程。把性能曲线当成递归自我改进的证据，正是这篇综述想要拦住的推理跳跃。

综述认为，软件工程目前提供了最实用的试验场之一，因为代码可执行、可比对规格并通过自动化测试检查。编码智能体可以修改自己的工具或操作指令，并快速测量更新是否有效。有些系统会保留已解决编程问题的经验、构建可复用技能或演化完整的智能体工作流；另一些则维持多条修改过的智能体线路，以免一次糟糕更新永久终结改进过程。

但软件测试通过并不保证改动正确。测试可能不完整，或基于不准确的规格；智能体也可能学会利用评估器，而不是变成更好的程序员。这条限制直接削弱了“测试通过即自我改进成功”的推论。

科学研究的反馈更慢、更贵也更含糊。一次失败实验可能源于错误假设、错误流程、有缺陷的软件或故障设备，AI在安全保留教训之前必须先判断是哪一环出了问题。论文回顾的一个系统从16项任务中收集经验，并用其提升在另外17项任务上的表现，显示保留的经验可迁移到新问题。即便如此，研究者将科学AI描述为最强处于第2级，并带有第3级的早期迹象；能通过真实世界实验持续适应或改进自身科学推理过程的系统，仍基本未被探索。

机器人面临类似问题，还叠加了试错的物理风险。机器人的行为取决于感知、规划、控制软件和硬件，失败时系统必须判断哪个组件需要更新。

研究将可靠验证、能力保留、向新任务迁移、资源成本和人类监督列为关键挑战。这五项并非抽象担忧，而是从上述案例的缺口里长出来的：SWE-bench案例中筛选规则外置，对应的是验证与保留问题；科学实验失败难以归因，对应的是迁移与验证问题；而人类监督在更高级别自我改进中的具体作用与可行性，论文本身也未给出明确答案。

还有一层不确定性属于框架自身。论文是综述与框架提议，未展示新的自我改进AI模型，其框架的实用性有待检验。第3级及以上能力在科学、机器人等领域仍基本未被探索；递归自我改进的受控实验证据是否可推广到真实部署环境，也尚不明确。

界定困难同样存在：如何区分真实递归改进与仅修订答案、优化代码或在人类规则下学习，仍是这套框架要持续面对的问题。另一个尚未解决的风险是，AI可能学会利用评估器而非真正变强。