Wonder:如何用稀疏注意力解决视频世界模型的长程记忆与控制漂移

方法贡献:稀疏上下文强制与 MoS 蒸馏

现有视频世界模型在长程交互中常面临控制漂移、记忆丢失和延迟高的问题。Wonder 提出像素空间坐标场实现精准相机控制,利用稀疏上下文强制和全保真 KV Cache 记忆机制解决长期一致性问题,并通过 Mixture-of-Students 蒸馏实现实时推理。实验显示其在 I2V 和 V2V 任务中显著优于 RELIC 等基线,RPE 指标大幅降低。需注意其对训练算力要求高,且依赖外部位姿估计。