跳到正文
热点事件持续更新

VLCQ:可变长编码的训练后量化方法

1 篇报道1 个报道来源22 小时前更新

先了解这件事

报道摘要

VLCQ 是一种训练后量化方法,通过放宽定点编码约束、引入变长编码,在无需训练数据与模型微调的前提下降低位宽。在图像分类、分割与目标检测任务上,其 per-channel 量化精度超过 FP32 与 PWLQ,相比 FP32 最高压缩 6x、相比 PWLQ 最高 1.7x。若以压缩优先、容忍有限精度损失,VLCQ 相比 FP32 最高压缩 12.25x,性能下降不到 4%。

摘自 arXiv:cs.AI

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv:cs.AI
    VLCQ:用变长编码实现深度神经网络训练后量化

    VLCQ 是一种训练后量化方法,通过放宽定点编码约束、引入变长编码,在无需训练数据与模型微调的前提下降低位宽。在图像分类、分割与目标检测任务上,其 per-channel 量化精度超过 FP32 与 PWLQ,相比 FP32 最高压缩 6x、相比 PWLQ 最高 1.7x。若以压缩优先、容忍有限精度损失,VLCQ 相比 FP32 最高压缩 12.25x,性能下降不到 4%。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。