热点事件持续更新

ValueDiff：按值向量几何淘汰KV缓存

1 篇报道1 个报道来源6 小时前更新

先了解这件事

AI 综述

Junyoung Park、Jungwook Choi、Mingu Lee 提出 ValueDiff，一种按 value 向量与缓存均值的 L2 偏差对 token 排序的 KV cache 淘汰方法，用于替代依赖注意力汇聚点的传统方法，面向 QK 归一化、门控注意力等弱注意力汇聚模型。评测在固定缓存预算下进行，prefill 阶段每个 block 边界、生成阶段每个解码步执行淘汰。作者报告：在 RULER 的 2k 紧预算下，七个抑制汇聚的模型中 ValueDiff 保留 dense 的 88–99%，其中六个模型表现最佳；在 LongBench 的 4k 预算下平均保留 92%，作者称最强先前基线为 83%；在 MATH-500 的 25% 缓存预算下，它是在所有受测抑制汇聚模型上最强的非 dense 方法，在门控注意力模型上最多领先先前方法约 20 个百分点。以上均为作者自报结果，尚未见独立复现。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道，了解事件的不同侧面。

10月7日

12:00
arXiv：cs.LG
ValueDiff：面向弱注意力汇聚 LLM 的值几何 KV cache 驱逐方法
ValueDiff 提出一种基于值向量几何的 KV cache 驱逐方法，按 value 向量与缓存均值的 L2 偏差对 token 排序，在 QK 归一化、门控注意力等弱注意力汇聚模型上替代依赖汇聚点的传统方法。

本事件热度走势

还没有足够的连续观测数据，暂不绘制趋势。