跳至内容

pchao.org

SIMD

Llama-Mobile:2.7比特量化如何让视觉语言模型真正跑进手机

24 8 月, 2026 作者 PengChao
论文代表图:figure-01-p004-04

提出S3D8 2.7比特权重格式与基于模型自生成数据的QAT蒸馏管线,将Llama 3.2 11B Vision压缩至3.7GB并在Arm CPU上高效推理。

分类 CVPR三分钟 标签 CVPR三分钟、 ImageNet、 S3D8、 SIMD、 人工智能、 深度学习、 计算机视觉 发表评论
© 2026 pchao.org • Built with GeneratePress