SVDtrunc

本文提出SVDtrunc，通过重要性感知的截断SVD压缩投影矩阵并结合模块化知识蒸馏，在保持Diffusion Transformer架构不变的前提下实现高效参数压缩，显著优于现有剪枝方法。