返回信息流
新闻事件
量子位
1 个来源

北航、港中文与新国大团队提出OmniHarness,视觉AI经验可迁移至视频生成

OmniHarness通过符号策略学习,将视觉AI中验证有效的流程提炼为可复用方法库,无需微调模型即可迁移到新任务。在ComfyBench创意任务上解决率达95%,比最强对照SymbOmni高27.5个百分点,并可将策略库适配给其他智能体使用。

SynthePulse Insight · AI 深度解读

不微调模型,也能让视觉AI积累经验:OmniHarness的策略库实验

版本 1 · 1 个来源

北航、港中文与新国大团队提出OmniHarness,把验证有效的视觉创作流程抽象为可复用策略库,在参数不变的前提下让经验跨任务、跨智能体乃至跨模态迁移。论文自报的基准数字亮眼,但全部来自单一来源,尚无第三方复现。

  • OmniHarness由北航、港中文与新国大团队共同完成,核心做法是参数不变、不微调模型,把做对的流程收进方法库。
  • 系统通过符号策略学习,把验证有效的做法提炼成一类任务可复用的方法;策略保留共享步骤、适用条件和依赖资源,去掉当前任务的具体输入。
  • 选题默认每轮提出10个候选任务,按新颖性与能力边界评分的乘积选取;可靠性取95% Wilson置信区间下界。
  • 任务能力估计由最薄弱的一项能力决定,关键环节缺少可靠方法会拖累最终结果。
  • 论文自报ComfyBench创意任务解决率95%,比最强对照SymbOmni高27.5个百分点;Codex GPT-4o配置总体解决率92.5%。
  • 自主练习得到的策略库保持冻结,经知识接口适配交给其他智能体使用;只用图像任务练习的策略库还能参与视频生成,视频总体解决率85.9%。
展开章节目录一个被反复绕开的问题:做对一次,能不能变成一类方法

一个被反复绕开的问题:做对一次,能不能变成一类方法

视觉创作往往是多步串联:涂鸦重绘成写实红花,再用它的风格生成花田,前一步的输出就是下一步的输入。中间任何一环偏了,误差会沿流程一路传下去。于是问题变成:当视觉智能体完成全部规划和试错之后,正确的经验能不能留下来,换张图片、换个主题还能不能用?

由北航、港中文与新国大团队共同完成的OmniHarness给出的答案是:参数不变,把做对的流程收进方法库,让下一次创作有经验可用。它通过符号策略学习,把验证有效的做法提炼成一类任务可复用的方法。

这里的策略被描述为一套带使用说明的工作流:保留共享步骤、适用条件和依赖资源,去掉当前任务的具体输入。新任务到来后,系统检查条件、填入新输入,再调整或组合已有策略。换句话说,红花和输入草图是这道题的细节,而“先重绘、再用结果引导生成”才是可迁移的那部分。

自己出题:选题、可靠性估计与短板逻辑

系统不是被动等任务,而是先练起来。反复练熟悉的题收获有限,题目远超当前能力又容易陷入低效尝试,所以选题要兼顾探索价值与现有方法的支撑。默认每轮提出10个候选任务,按新颖性与能力边界评分的乘积选题:新颖性看哪里练得少,能力边界评分看难度是否适合当前能力。

可靠性怎么算?系统按调用与验证成功次数估计,取95% Wilson置信区间下界,并为每项能力选最可靠的适用且未停用工作流。这里有一个值得注意的设计:任务能力估计由最薄弱的一项能力决定,某个关键环节缺少可靠方法,就会拖累最终结果。多步任务的短板可能决定全局。

执行阶段,系统先规划步骤与依赖,再将代码转换为ComfyUI工作流,验证流程可执行性、中间结果与最终输出。中间验证尤其关键——如果红花已经偏离要求,继续用它生成花田,偏差可能沿流程传递。发现问题后,定位并修复失败环节,保留已验证部分;必要时调用子智能体,在有限重试内重新验证。

成功流程被抽象为策略,失败则留下证据、原因和修正办法,系统持续更新可靠性并合并等价流程,让新经验参与下次选题与执行。成功一次也不意味着从此可靠:后续调用的成功与失败,会继续影响策略的可信度和复用优先级。

基准数字:创意任务95%,但对照配置是否对齐未说明

在ComfyBench创意任务上,OmniHarness解决率达95%,比最强对照SymbOmni高27.5个百分点;Codex GPT-4o配置下总体解决率达92.5%。这些数字来自论文团队投稿的单一来源,属于来源方声明,尚无第三方独立复现。

更值得看的是流程跑通之后究竟完成了多少任务。两种配置的工作流运行通过率均为100%,ComfyMind和SymbOmni也已达到这一水平,因此通过率本身不构成区分度。同用GPT-4o时,OmniHarness总体解决率为89.5%,高于ComfyMind的83%;创意任务为95%,对照为57.5%。

换成Codex规划配置,总体解决率从89.5%升至92.5%,复杂任务从76.7%升至83.3%,体现了规划配置对多步流程表现的影响。但复杂任务仍有进步空间:Codex配置为83.3%,略低于ComfyMind的85%。

需要保留的疑问是:创意任务95%与最强对照SymbOmni 57.5%的对比,来源未说明对照配置是否与OmniHarness完全一致。在缺少这一前提的情况下,27.5个百分点的差距应视为来源方报告的结果,而非已确证的性能差距。

跨智能体迁移:冻结策略库接入后的增益差异

自主练习得到的策略库保持冻结,经知识接口适配交给其他智能体使用,保留宿主控制流程且不微调模型。这份策略库既包含可复用的工作流模板,也包含失败证据与修正方法,供其他智能体通过自身的检索、规划和执行流程调用。

接入后的总体解决率变化为:ComfyAgent从32.5%升至57.0%,ComfyMind从83.0%升至88.0%,SymbOmni从86.0%升至89.0%;三个系统创意任务解决率分别提升27.5、17.5和10个百分点。三个系统在创意任务上的增幅都高于各自的总体增幅,这提示面对新的创作要求,可调用的方法和修正经验尤其值得重视。

但增益幅度的差异本身值得留意:ComfyAgent提升24.5个百分点,而SymbOmni只提升3个百分点。这种差异说明迁移效果可能与宿主系统原有能力高度相关,其稳定性与适用边界尚不明确。

跨模态:图像策略库参与视频生成

只用图像任务练习得到的冻结策略库,还能参与视频生成。视频总体解决率达85.9%,比表中最佳对照高5.1个百分点;视频到视频任务达80.0%,比该对照高13.3个百分点。

按来源描述,图像策略支持内容构建、参考保持等操作,视频专用组件处理时序,二者经适配和组合完成任务。不过,图像策略迁移到视频生成的效果仅由该来源报告,视频专用组件与图像策略的适配组合细节未充分展开,这一跨模态结论的稳健性有待更多证据。

代价与边界:计算开销与未解问题

这套方法并非没有成本。自主练习与多轮检查仍有计算开销,后续需优化检索、验证与推理预算。失败环节的修复与子智能体调用被限制在有限重试内,这既是工程约束,也意味着复杂任务的修复能力存在上限。

更根本的限制在于证据本身:所有基准数字均来自论文团队投稿的单一来源,缺少第三方独立复现;论文全文、项目主页与代码链接虽已给出,但来源未提供可核验的第三方评测或复现结果。因此,本文中95%、92.5%、89.5%、85.9%等数字应理解为来源方声明,而非已确证的结论。

可信度边界

本文全部事实来自量子位对OmniHarness论文的报道(单一来源,来源层级为press_release)。其中团队构成、方法机制(符号策略学习、策略定义、选题规则、可靠性估计、短板逻辑、ComfyUI流程、失败证据留存、冻结策略库迁移)被标注为confirmed;所有基准数字(创意任务95%、Codex配置92.5%、GPT-4o配置89.5%、通过率100%、复杂任务83.3%、跨智能体接入增益、视频85.9%与80.0%)均标注为source_claim,因为它们是论文团队自报结果,缺少第三方独立复现,且来源未说明对照配置是否与OmniHarness完全一致。文中对增益差异、跨模态稳健性的评论属于基于来源事实的推断,已在相应位置标明不确定性。

核心结论

OmniHarness的价值主张不在于刷新某个单点分数,而在于提出一种不微调模型、把验证有效的流程沉淀为可复用策略的路径,并让这份策略库以冻结形式跨智能体、跨模态复用。论文自报的数字(创意任务95%、视频85.9%)足够吸引人,但全部来自单一来源,对照配置是否对齐、迁移增益为何差异悬殊、跨模态适配细节如何,都还没有独立答案。在第三方复现出现之前,它更像一个值得跟踪的研究方向,而不是一个已经落地的结论。

主报道

量子位

主报道来源