组合式VQA

本研究深入分析Qwen2.5-VL-3B-Instruct在组合式视觉问答中的失败机制。通过因果均值消融、注意力消除和MLP消除，发现接地与属性提取失败源于前馈网络，而推理失败源于晚期注意力。跨架构分析显示LLaVA-1.5-7B因编码器压缩空间细节而表现不同。