返回信息流
新闻事件
量子位
1 个来源

何恺明团队发布视觉原生Harness框架VISTA

何恺明团队在最新论文中提出视觉原生Harness框架VISTA,让多模态模型直接观察环境、保存原始画面,并在推理时随时回看、放大和检查细节,无需从头训练。在ARC-AGI-3评测中,搭配VISTA的Claude Opus 5.0完成全部25个公开游戏,相对人类动作效率得分满分100,动作数比首次游玩人类基线少57.4%;GPT-5.6 Sol同样全部通关,得分99。团队还在浏览器游戏、迷宫和连线题中验证该方法,并将具身任务列为后续研究方向。

SynthePulse Insight · AI 深度解读

不训练模型,只让模型“回看”:VISTA把视觉记忆做成多模态智能体的脚手架

版本 1 · 1 个来源

何恺明团队提出的VISTA不新增任何基础模型训练,而是把环境画面原样存档、让现有多模态模型按需调取。论文自报的成绩单很亮眼:ARC-AGI-3全部25个公开游戏通关、动作数比首次游玩的人类基线少57.4%。但所有数字都来自作者团队,独立复现尚未出现。

  • VISTA是何恺明团队论文《VISTA: A Visual Harness for Reasoning in an Interactive World》提出的视觉原生Harness,不额外训练新模型。
  • 它由视觉观测、无损视觉记忆、主动视觉检查三个组件构成,分别负责看清画面、保存历史、按需回看。
  • 为控制上下文,框架默认每次动作后只向模型展示最后一帧,中间帧存入视觉档案等模型主动调取。
  • 论文自报:Claude Opus 5.0搭配VISTA通关ARC-AGI-3全部25个公开游戏,相对人类动作效率得分100,动作数比首次游玩人类基线少57.4%;GPT-5.6 Sol同样全部通关,得分99。
  • 同一模型下,VISTA在GameWorld的170项任务把成功率从40.0%提到63.3%,在AI GameStore的10个游戏中把综合得分从47.3提到140.3。
  • 所有评测结果均由论文作者团队报告,来源为量子位报道,未见第三方独立验证,也未披露无VISTA时的基线得分。
展开章节目录一个被绕开的问题:视觉经验该存在哪里

一个被绕开的问题:视觉经验该存在哪里

过去一年,Harness(脚手架)成为智能体能力提升的一条重要路径。按来源描述,Anthropic曾以长时间编程任务为例介绍Harness如何帮助模型跨越多个上下文窗口持续推进任务:通过任务清单记录未完成事项,通过进度文件和代码保存已完成的工作,模型进入新窗口后读取这些信息即可接续。这套机制主要靠文字和代码保存任务状态。

但来源指出,进入真实视觉环境后,光有文字记忆不够。模型不仅要记住物体的位置和朝向,还要理解每次动作前后环境发生了什么变化;而且模型第一次看到一张图时,未必知道哪个细节后面会变得重要。这些视觉信息也很难提前用一份文字笔记完整记录下来。

在ARC-AGI-3这类基准中,已有思路是先把画面转成数字文本网格,再让模型编写程序模拟环境规则、验证行动方案。来源给出的问题是:环境越复杂,物体的外观、空间关系和动态变化越难被完整转化成文字和代码;交互历史越长,早期画面也会被移出上下文或被文字摘要替代。VISTA要回答的正是这个缺口——如何在不额外训练基础模型的前提下,让智能体在推理需要时重新检查过去看到的视觉信息。

三个组件:把“看过的”变成“可调取的”

VISTA设计了三个核心组件:视觉观测、无损视觉记忆和主动视觉检查,分别负责让模型看清画面、保存历史以及按需回看。

视觉观测负责把环境画面提供给模型。在ARC-AGI-3实验中,VISTA将官方提供的64×64画面放大为512×512的PNG图像,同时保留物体的颜色、外观和空间关系。

无损视觉记忆负责保存模型看到的画面。每次执行动作后,VISTA都会完整保存环境返回的所有画面,包括动作过程中的动画中间帧,并按回合号和帧号建立索引。来源的表述是:模型不必提前判断哪些信息值得记住,可以先把视觉经验完整保存下来留待后续使用。

主动视觉检查负责按需回看。通过inspect工具,模型可以指定某个历史回合调出对应画面,也可以裁剪、放大局部区域检查细节;如果想知道某次操作究竟改变了什么,还可以一次调出多帧对比动作前后的变化。来源把这套机制称为对交互历史的显式注意力——模型根据正在思考的问题,选择哪些视觉信息重新进入上下文。

上下文预算与文字笔记:视觉档案之外的配套

完整保存画面不等于全部塞进上下文。在完整方案中,每次执行动作后框架默认只向模型展示最后一帧,动作过程中的中间画面统一保存在视觉档案里,等模型需要时再主动调取。来源认为这样既保留完整视觉信息,也避免大量历史图片持续占用上下文空间。

VISTA还引入两份文字笔记:GUIDE.md记录不同关卡之间可复用的规则和经验,WORKING.md记录当前关卡的状态、进度和后续计划。当上下文接近上限时,模型会先整理交接摘要,再进入新的上下文窗口继续执行任务,此前的文字笔记、动作历史和视觉档案都会保留下来。

按来源描述的执行流程,每个回合开始时模型先观察当前画面和可用动作,结合此前经验判断环境状态并提出行动假设;信息不足时调用工具回看历史画面、放大局部甚至读取像素信息寻找证据;找到证据后先预测操作可能带来的变化,动作执行完毕再把实际结果与预测对比,据此修正对规则的理解。

这里的关键约束是:VISTA并不额外训练新模型。环境理解、行动规划和推理仍由现成的多模态模型完成,Harness只负责执行工具调用、保存视觉历史并在需要时提供证据。来源的总结是,VISTA改变的不是模型本身,而是模型获取、保存和使用视觉信息的方式。

成绩单:四个基准上的自报数字

ARC-AGI-3是一套交互式视觉推理基准,不预先提供游戏规则和目标,智能体需要通过观察和行动自行摸索如何通关。来源称,搭配VISTA,Claude Opus 5.0完成了ARC-AGI-3全部25个公开游戏,相对人类动作效率得分达到满分100,所用游戏动作数比首次游玩的人类基线少57.4%;换成GPT-5.6 Sol,同样全部通关,得分达到99。

另外三个基准覆盖浏览器游戏、迷宫和连线任务。使用相同的GPT-5.6 Sol模型,相比官方基础框架,VISTA在GameWorld的170项任务中把成功率从40.0%提高到63.3%;在AI GameStore的10个游戏中,综合得分从47.3升至140.3,其中人类中位数被归一化为100;在BabyVision选取的39道迷宫与连线题上,准确率从41.0%提高到63.2%。来源特别提到,最后一组任务只有静态图片,模型也能通过放大局部、检查像素改善判断。

来源还称,同一套VISTA框架只需少量适配,就能用于不同的游戏与谜题。在结论上,研究把未来的验证方向指向更接近物理世界的具身任务:让模型在持续变化的环境中保存、复查并利用自己的视觉经验,决定下一步行动。

这些数字能说明什么,不能说明什么

需要先明确证据层级。VISTA的论文存在、作者构成、ARC-AGI-3的基准性质属于已确认事实:论文三位共同第一作者为Qiushi Han、胡珂雅和Linlu Qiu,另外两位作者为Cathy Wu和何恺明。而上述全部评测成绩,均来自论文作者团队,经量子位报道转述,属于来源主张,未见第三方独立验证或复现。

一个明显的解释缺口是:报道未说明Claude Opus 5.0与GPT-5.6 Sol在没有VISTA时的基线得分。因此ARC-AGI-3上的100分和99分,无法单独拆出VISTA贡献了多少。相对而言,GameWorld、AI GameStore和BabyVision三组数据给出了“相同模型、官方基础框架对比VISTA”的对照,增益方向更清晰,但来源同样未披露这些官方基础框架的配置细节。

还有几项成本与边界未被回答:视觉档案长期保存原始画面带来的存储与检索开销,来源没有说明;论文是否已正式发表或仅以预印本形式发布,来源也未明确;VISTA在更接近物理世界的具身任务上的效果尚未验证,团队仅将其列为后续研究方向。

因此更稳妥的读法是:VISTA提出的问题——如何让视觉经验成为可随时调用、反复检查的上下文——以及它给出的工程路径(原样存档、按需回看、默认只喂最后一帧)是这篇工作最值得关注的部分;而具体分数应当视为待复现的团队自报结果,而非已经确立的能力结论。

可信度边界

本文全部事实来自量子位对论文《VISTA: A Visual Harness for Reasoning in an Interactive World》的报道(来源层级为二手转述)。论文存在、作者名单、ARC-AGI-3的基准定义属已确认信息;VISTA的组件设计、执行流程与全部评测数字均为来源主张,未经第三方独立验证。来源未提供同行评审信息,也未说明论文是否已正式发表或仅为预印本。

核心结论

VISTA的价值主张不在“更强的模型”,而在“更好的视觉记忆接口”:不训练、只存档、按需回看。它把多模态智能体的瓶颈从模型能力部分转移到了信息组织方式上。但在这套思路被独立复现、且无VISTA基线被公开之前,57.4%、63.3%、140.3这些数字应被当作待检验的团队自报结果,而不是定论。

主报道

量子位

主报道来源