RUTA:把视觉令牌分配变成一个率-效用优化问题

固定预算的困境

问题的根源在于,现有方法把令牌缩减当成一个预处理步骤,没有和查询需求关联起来。RUTA 的核心洞见是:这本质上是一个率-效用优化问题——在保证回答质量的前提下,最小化传递给大语言模型的令牌数量。这个视角把令牌分配从手工规则提升到了有理论支撑的优化框架。