跳到正文
热点事件持续更新

PGSVD低秩压缩框架用于LLM/VLM

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Ryan Solgi等作者提交论文,提出面向LLM/VLM的低秩压缩框架PGSVD。该框架把低秩压缩建模为双目标优化,通过逐层激活压缩误差上界网络损失变化,并称单一统一容差即可产生代理帕累托最优的异构秩。 据论文,该零样本流程结合帕累托引导秩选择与交替最小二乘实现;应用于LLM和VLM后,在相同压缩率下获得更高精度并实现推理加速。上述效果为作者在论文中的说法,尚待独立验证。

AI 根据报道生成 · 55 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月8日
  1. arXiv:cs.CL
    面向高效 LLM/VLM 的激活感知帕累托引导低秩压缩

    研究提出低秩压缩框架 PGSVD,通过逐层激活压缩误差上界网络损失变化,并将低秩压缩建模为双目标优化,证明单一统一容差可产生代理帕累托最优的异构秩。该零样本流程结合帕累托引导秩选择与交替最小二乘实现,应用于 LLM 和 VLM 后,在相同压缩率下取得更高精度并实现推理加速。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。