MLLM空间推理幻觉怎么破?Geo3R用几何卡片给出答案

方法贡献

多模态大模型常因2D图像缺乏深度信息而产生空间推理幻觉。Geo3R提出一种无需训练的框架,通过提取相机、世界及物体局部坐标系下的几何证据,构建结构化卡片辅助推理。实验显示其在透视、朝向和视点变化场景下显著优于基线。需注意其性能受限于上游几何估计工具的精度。

ConsiSpace:几何一致性记忆与自监督强化学习提升视频空间推理

方法概览:ConsiSpace框架

本文提出ConsiSpace框架,针对多模态大模型在视频空间推理中缺乏几何建模、冗余证据多及跨视角不稳定等问题,设计了几何一致性记忆(GCM)和统一一致性自监督强化学习(UC-SSRL)。GCM通过门控写入和融合减少冗余,UC-SSRL利用自监督奖励提升稳定性。实验显示在VSI-Bench和OSI-Bench上显著超越基线,且在长视频场景下显存占用和推理时间大幅降低。需注意GCM依赖几何基础模型准确性,噪声输入可能影响性能。