网格保持的知识蒸馏:在数据稀缺下向视觉Transformer迁移卷积归纳偏置

iBKD 的贡献与验证

提出 iBKD 框架,通过保持空间网格完整性的可学习跨架构对齐、可变形增强与卷积交叉注意力融合,将 CNN 的归纳偏置迁移到 ViT,在数据稀缺场景下显著提升性能且无推理开销。