T²Quant：扩散语言模型的任务与时间感知量化框架

Eliron Rahimi 等作者提出 T²Quant，一个面向扩散语言模型（DLM）的混合精度量化框架：它利用无标签敏感度信号，在固定比特预算下按去噪步分配激活精度。研究称量化敏感度同时依赖任务和去噪时间步，这是该框架按任务和时间分配精度的依据。 在 3 个 DLM 和 6 个 benchmark 上，该方法相对现有量化方法稳定提升平均准确率，同等比特预算下最高提升 6.7 个百分点。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。