跳到正文
热点事件持续更新

论文提出 Budgeted Cache Repair 修复跨上下文 KV 缓存复用

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Haeyong Kang 与 Chang D. Yoo 提交论文,提出 Budgeted Cache Repair(BCR)方法,用于修复跨上下文 KV-Cache 复用带来的精度损失。论文称,跨上下文 KV-Cache 复用并非无损:在 MMLU 和 GSM8K 上会出现明显精度损失,且按整次调用决定是否复用无法消除该损失。BCR 的作用单位是“选择仍然划算”的单元。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月5日
  1. arXiv:cs.LG
    Budgeted Cache Repair:跨上下文 KV-Cache 复用的按预算缓存修复

    研究发现跨上下文 KV-Cache 复用并非无损:在 MMLU 和 GSM8K 上会带来明显精度损失,且按整次调用决定是否复用无法消除该损失。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。