跳到正文
热点事件持续更新

SAGE 提出 2-bit 权重量化新方法

1 篇报道1 个报道来源6 小时前更新

先了解这件事

AI 综述

Xianglong Yan 等作者在 arXiv 提交论文,提出 SAGE 方法,用于权重-only 向量量化,旨在缓解 2-bit 超低位量化在真实任务上的精度退化。作者称该方法采用「能量分组+自适应位分配」,在知识、数学、代码生成、指令跟随和工具使用等基准上达到 2-bit 量化 SOTA。论文注明代码已公开。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv:cs.AI
    SAGE:将 2-Bit 向量量化 LLM 推向真实可用

    SAGE 是一种面向权重-only 向量量化的「能量分组+自适应位分配」方法,旨在解决 2-bit 超低位量化在真实任务上的精度退化问题,在涵盖知识、数学、代码生成、指令跟随和工具使用的基准上取得 2-bit 量化 SOTA。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。