Fair-GPTQ：公平感知量化方法提出

Irina Proskurina、Guillaume Metzler 与 Julien Velcin 提出并发布 Fair-GPTQ，一种在量化目标中显式加入群体公平性约束的方法，通过引导舍入操作学习，减少大语言模型对受保护群体的偏见生成。作者称这是首个明确以减少大语言模型不公平性为目标的量化方法。 该方法在零样本基准上保留至少 90% 的基线准确率，相对半精度模型降低不公平性，同时保持 4-bit 量化的内存与速度优势。上述效果为论文所报告，尚未经独立验证。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。