热点事件持续更新
QK-Wanda:耦合 Query 与 Key 的剪枝方法
1 篇报道1 个报道来源14 小时前更新
先了解这件事
AI 综述
2026年10月3日,arXiv cs.LG 分类发布论文《QK-Wanda:耦合 Query 与 Key 的非结构化剪枝方法》。该报道称,QK-Wanda 通过未掩码的 pre-RoPE 重建目标,按单独删除代价对 query 和 key 权重打分,并引入对侧投影信息,使两个投影共享剪枝预算;方法无需梯度或权重更新,在 A100 上完整剪枝仅比 Wanda 慢 1.3%,在 H200 上慢 3.1%。目前仅有这一篇报道,尚无后续进展或相互矛盾的说法。
AI 根据报道生成 · 2 小时前更新
最新进展10月3日 12:00
QK-Wanda 论文发布,称剪枝无需梯度且开销接近 Wanda。报道时间线
沿着报道,了解事件的不同侧面。
10月3日
- arXiv:cs.LG(机器学习,全量分类)QK-Wanda:耦合 Query 与 Key 的非结构化剪枝方法
QK-Wanda 通过未掩码的 pre-RoPE 重建目标,按单独删除代价对 query 和 key 权重打分,并引入对侧投影信息,使两个投影共享剪枝预算。该方法无需梯度或权重更新,在 A100 上完整剪枝仅比 Wanda 慢 1.3%,H200 上慢 3.1%。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。