BF16

哈尔滨工业大学（深圳）与新加坡国立大学的 QuantWM 在不训练的前提下，用敏感聚类和主子空间补偿减轻 2-bit Key 量化造成的注意力错位，从而在压低键值缓存的同时改善帧级画面。