arXiv：cs.LG（机器学习，全量分类）· Mehdi Makni, Ryan Lucas, Rahul Mazumder·2026-09-30 12:00· 1 天前AI 评分40

ThinQuant：面向 LLM 权重与激活量化的可扩展旋转学习

ThinQuant: Scalable Rotation Learning for Weight and Activation Quantization of LLMs

AI 导读

ThinQuant 通过基于激活凸包几何结构的数据选择与精确降维优化，实现 LLM 低比特权重和激活量化中的高效旋转学习。Llama-3-70B 在 W4A4KV4 下旋转校准不到 12 分钟，WikiText-2 困惑度 5.63，优于 DartQuant 的 7.55（需 111 分钟）。