跨模态注意力充当频率滤波器:为什么冗长提示能提升视觉-语言模型的鲁棒性

研究缺口

本文提出跨模态注意力在图像频率域上充当任务条件滤波器,发现冗长提示通过拓宽该滤波器的频率支持范围,显著降低了视觉-语言模型在图像损坏下的预测漂移方差。