跳到正文
热点事件持续更新

ApexQuant 发布无校准弹性量化方法

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Aksel Fristrup、Sumit Pandey 与 Ankit Kariryaa 提出 ApexQuant,一种免校准的量化方法:递归重新量化残差误差,作为现有量化器之上的精化层,因此无需校准数据。 该方法用随机旋转使残差回归超球面均匀分布,从而在读取权重前确定达到目标误差所需的量化轮数;每个前缀本身即为有效的低比特模型,一个产物可服务多种精度。作者称在四个开源权重 LLM 以及地球观测、医疗领域验证,4-bit 下接近全精度,并给出完全无数据设定下最优的 2-bit 方案。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月7日
  1. arXiv:cs.LG
    ApexQuant:通过残差再各向同性化实现无数据弹性量化

    ApexQuant 是一种免校准的量化方法,通过递归重新量化残差误差,可作为现有量化器的精化层。该方法利用随机旋转使残差回归超球面均匀分布,从而在读取权重前确定目标误差所需的量化轮数,且每个前缀本身即为有效的低比特模型,一个产物可服务多种精度。研究在四个开源权重 LLM 及地球观测、医疗领域验证,4-bit 下接近全精度,并给出完全无数据设定下最优的 2-bit 方案。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。