港大与VAST推出Mira-Scene:像素对齐布局实现高精度3D场景重建
香港大学与VAST联合提出Mira-Scene,通过像素对齐的布局表示(CCM和PCM)将3D场景重建转化为稠密对应关系恢复问题,并采用Geometry-Layout联合生成框架。仅使用80k开源数据,Mira-Scene在3D IoU上比SAM3D提升39.8%,投影2D IoU提升16.5%。该工作解决了大模型生成3D场景时布局与输入图像不一致的问题。
香港大学与VAST联合提出Mira-Scene,通过像素对齐的布局表示(CCM和PCM)将3D场景重建转化为稠密对应关系恢复问题,并采用Geometry-Layout联合生成框架。仅使用80k开源数据,Mira-Scene在3D IoU上比SAM3D提升39.8%,投影2D IoU提升16.5%。该工作解决了大模型生成3D场景时布局与输入图像不一致的问题。
SynthePulse Insight · AI 深度解读会员精读
版本 1 · 1 个来源
香港大学与 VAST 提出 Mira-Scene,用像素对齐的 CCM/PCM 布局表示,把单图生成式 3D 场景重建从稀疏位姿回归改写为稠密 3D-3D 对应问题。论文自述在仅用 80k 开源数据的前提下,相比 SAM3D 取得 39.8% 的 3D IoU 与 16.5% 的投影 2D IoU 提升——但这些数字目前仍属作者自述。
单图 3D 生成在物体层面已经相当成熟。来源称,给定一张物体图片,Tripo 这类生成模型已经能够恢复出相当精细的三维几何。但当任务从“生成一个物体”扩展到“重建整个场景”时,出现了一个新的难题:物体生成出来以后,到底应该放在哪里。
来源同时指出,大模型如 GPT-6 Astra 已经越来越会“搭 3D 场景”,但实际使用时,前景物体的几何形状、相对尺度与 layout 仍与输入图像存在偏差。这正是 Mira-Scene 想要修正的痛点:不是物体不够精细,而是场景层面的对齐不可靠。
此前常见的做法,是让神经网络直接预测 translation + rotation + scale。来源认为这种表示有两个问题。第一,它是 sparse 且 unbounded 的:一个物体所有复杂的空间信息被压缩成少数几个 pose 参数,而 translation 等参数又直接定义在开放的 scene coordinate system 中,数值变化范围很大;在遮挡、透视歧义和复杂空间关系存在时,让网络直接从一张图片准确回归这些全局参数并不容易。
第二个问题是数据依赖。这类表示非常依赖带有精确 Layout annotation 的 scene-level 3D 数据,而现实中高质量 3D scene 数据远远没有 object-level 3D asset 那么充足。换言之,旧表示把难题压在了最稀缺的数据类型上。
本文全部事实来自机器之心对论文的公众号报道,属二手转述,未提供第一方论文原文数据核对。论文标题、作者与机构、CCM/PCM 定义、RANSAC + Umeyama alignment、Geometry-Layout Co-Generation 框架、shared 3D positional space、两阶段训练数据规模等被来源以确定性语气陈述;而 39.8% 3D IoU 与 16.5% 投影 2D IoU 提升、BlendSwap 与 3D-Front 上的大幅提升、开源内容与全流程 pipeline 等,均属来源或作者自述,缺少第三方独立复现或评测验证。Mira-Scene 与 GPT-6 Astra 组合效果的可复现性、两阶段数据配比是否最优、真实复杂场景下的泛化能力,以及开源资产的实际可用性,均未在来源中核实。
主报道
主报道来源