返回信息流
新闻事件
A重点78
机器之心
1 个来源

浙大提出ProVisE:让生成式模型直接“画”出空间认知,而非输出坐标

浙江大学OmniAI团队提出ProVisE框架,旨在让图像生成模型直接以视觉方式回答空间问题,替代传统的坐标输出。该框架通过视觉协议和自动化构建,将生成图像解析为结构化预测,并构建了SpatialGen-Bench基准进行评测。这一方法有望更自然地评估模型的空间认知能力。

SynthePulse Insight · AI 深度解读会员精读

让模型“画”出空间答案:浙大ProVisE试图改写空间认知评测的作答方式

版本 1 · 2 个来源

浙江大学OmniAI团队提出ProVisE框架与SpatialGen-Bench基准,主张让图像生成模型直接在像素空间作答,再把视觉答案还原为可评分预测。在作者自建榜单上,文本输出VLM仍在抽象推理任务上领先,但两类模型做对的并非同一批题。

  • ProVisE把空间评测的作答方式从坐标、选项、文字改为“画”出来,再经解析器还原为标签、点、掩码、状态或轨迹。
  • SpatialGen-Bench含14项子任务,组织为感知、理解、推理、交互四个层级。
  • 作者自建榜单显示,Claude Fable 5与GPT-5.6 Sol均超过80分,GPT-5.4为61.04分;图像生成模型中GPT-5 Image 2以54.49分居首。
展开章节目录一个被坐标绑架的评测习惯

一个被坐标绑架的评测习惯

空间判断本来发生在连续的视觉场景里,但现有空间认知评测几乎都要求模型用坐标、选项或文字作答。浙江大学OmniAI团队在论文《Show, Don't Tell: Evaluating Spatial Cognition in Generative Pixels Rather Than LLM Text》中把这种要求称为“反直觉”:对文本VLM已不够自然,而天然工作在像素空间、本可直接“画”出答案的图像生成模型,则被挡在评测门外。

这是该研究的出发点,也是一项来源方主张而非中立事实。它真正提出的问题不是“生成模型能不能做空间题”,而是评测的作答接口是否本身就筛掉了某一类模型。围绕这一点,团队提出ProVisE框架,让图像生成模型直接在图中回答空间问题,并将视觉答案还原为原benchmark可评分的结构化预测。

ProVisE的三步流程与协议冻结机制

ProVisE的流程分三步:Protocol Router按任务选择视觉协议;图像生成模型依Guidance Prompt产生可解析的视觉答案;Protocol Parser再把像素结果转换成原benchmark所需的标签、点、掩码、状态或轨迹。视觉协议是这套框架的基本单元,每套协议包含一段guidance prompt与对应parser。

协议的具体形态包括标记目标、填充方向网格、生成深度图、涂出目标区域或画出机器人运动轨迹。来源举例称,模型可以直接把目标公交车点出来、把机械臂的移动轨迹画在原图上;判断A、B两点谁更近时生成一张深度图;面对“缆车上还能否再坐一个人”这类问题,则把第二位乘客补到座椅上,直观展示空间是否足够。

为应对形式各异的空间benchmark,ProVisE内置Agentic Protocol Construction框架。Agentic Builder逐任务扫描数据、输入形式、答案结构和评分规则,将其统一为任务规范,再选择Reuse、Build或Fallback三种协议构建路径:Reuse直接复用兼容的已有协议,Build利用已注册的解析组件组装新协议,Fallback则在确定性组件无法覆盖时由辅助VLM解析生成图像并恢复结构化预测。

一个容易被忽略的约束是:协议构建完成后必须经过验证,确保视觉答案能正常生成、解析并接入原指标,通过后才被冻结,用于所有图像生成模型的评测。这意味着评测的可比性依赖于协议先被固定下来,而不是每个模型各用一套解析方式。

限时免费

继续阅读完整分析

还有 5 节深入分析和完整结论

加载中

可信度边界

本文所依据的信息来自机器之心对浙江大学OmniAI团队工作的报道,属二手转述,非第一方论文原文。论文链接指向arXiv编号2607.21072,但来源未提供同行评审或第三方复现信息。榜单分数(Claude Fable 5、GPT-5.6 Sol、Kimi K3、GPT-5 Image 2)、37%互补性与17.6个百分点领先幅度、88.03%失败归因均为单一来源自报数据,未说明统计显著性、样本范围或统计口径,应视为来源方主张而非已确认结论。“生成模型具有更直接空间直觉”及“减少信息损耗”为作者解释性论断,来源未给出机制层面的直接证据。未来“理解、生成与验证协同”的设想属作者展望,尚无实现或验证结果。

主报道

机器之心

主报道来源

同一事件报道

另有 0 个来源报道