VECTOR：KV缓存压缩三分支路由方法

Yuping Lin 等人提交预印本论文，提出 VECTOR——一种用于驱逐式 KV Cache 压缩流程的即插即用增强方法。其核心做法是在原有驱逐流程中引入保留、近似、驱逐三路 token 路由，并同时使用两类信号：来自基础评分器的重要性信号，以及来自离线校准回归的价值估计所给出的可重建性信号。 论文将其定位为对现有驱逐式压缩管线的增强插件，而非替换原有方法。上述效果均出自论文自身描述，尚待进一步验证。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。