跳到正文
热点事件持续更新

CORE:KV Cache 压缩新方法

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Shuxin Liu 等作者提交论文预印本,提出 KV Cache 压缩方法 CORE,通过覆盖校准与逐出质量重分配改进压缩效果。论文称,该方法在 90% 压缩率下于三个骨干模型上最高超过最强 RULER 基线 3.78 分。 CORE 的做法是把查询效用与对数行列式覆盖的离线分配蒸馏为轻量缓存感知索引器,推理时用同一校准分布同时驱动 Top-B 保留与潜在记忆写入,无需单独的写入权重预测器或在线对数行列式评估。LongBench 与重复逐出评测被用于验证其有效性与解码效率。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月5日
  1. arXiv:cs.AI
    CORE:面向 KV Cache 的覆盖校准与逐出质量重分配

    CORE 通过覆盖校准与逐出质量重分配改进 KV Cache 压缩,在 90% 压缩率下于三个骨干模型上最高超过最强 RULER 基线 3.78 分。该方法将查询效用与对数行列式覆盖的离线分配蒸馏为轻量缓存感知索引器,推理时用同一校准分布同时驱动 Top-B 保留与潜在记忆写入,无需单独的写入权重预测器或在线对数行列式评估。LongBench 与重复逐出评测进一步验证了其有效性与解码效率。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。