推理加速

FeatFix：缓存扩散模型里，验证过的精确特征为何要丢弃？

作者
一个具体的浪费场景

扩散模型推理慢，训练免缓存加速器通过复用或预测中间特征来减少计算，但会引入近似误差。部分方法引入验证步骤计算精确特征来监控漂移，却算完就扔，从未想过用这些已经付过计算代价的精确特征来当场校正草稿状态。FeatFix 提出“验证即复用”原则，在固定的层-时间步验证点，将已计算的完整块输出直接替换草稿输出，消除局部残差，其余点保持原草稿策略。通过匹配计算量的 Verify 控制组，论文在 FLUX.1-dev 上证明，相同延迟下 FeatFix 的 ImageReward 从 0.911 跃升至 1.318，且校正带来的误差降低会持续传播到下游层和后续去噪步骤。方法在 HunyuanVideo-1

少看快想：多模态大语言模型的联合Token-计算自适应推理

作者
方法：SmartVL框架概述

多模态大语言模型推理成本高，现有方法如FastV或AdaLLaVA仅独立优化Token剪枝或层跳过，忽略视觉密度与LLM容量的耦合。本文提出SmartVL，联合控制视觉Token数、Transformer层数及注意力头组。通过可微延迟估计器和非对称损失，在VQAv2等基准上，50%预算下准确率显著优于基线。需注意不同任务最优配置差异，且FLOP节省需硬件支持才能转化为实际加速。

免训练让Flow Matching加速10倍：MrFlow做对了什么？

作者
MrFlow核心思路

MrFlow采用低分辨率生成、像素空间超分和高分辨率微调的分阶段采样，在无需训练的情况下加速Flow Matching。本期核对Qwen-Image与FLUX结果、组合蒸馏收益，以及VAE、超分开销和低频偏差风险。