KV Cache

当前多模态助手常根据注意力分数丢弃视觉KV Cache，但这假设‘当前不关注’等于‘未来无用’。本文通过CVMA框架证明该假设错误：低注意力区域可能在未来关键。安全遗忘需满足视觉低依赖或事实已被言语化。视频详解因果审计方法及对SnapKV等方法的启示。