论文提出 Budgeted Cache Repair 修复跨上下文 KV 缓存复用
热点事件持续更新
论文提出 Budgeted Cache Repair 修复跨上下文 KV 缓存复用
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Haeyong Kang 与 Chang D. Yoo 提交论文,提出 Budgeted Cache Repair(BCR)方法,用于修复跨上下文 KV-Cache 复用带来的精度损失。论文称,跨上下文 KV-Cache 复用并非无损:在 MMLU 和 GSM8K 上会出现明显精度损失,且按整次调用决定是否复用无法消除该损失。BCR 的作用单位是“选择仍然划算”的单元。
AI 根据报道生成 · 1 小时前更新
最新进展10月5日 12:00
Budgeted Cache Repair:跨上下文 KV-Cache 复用的按预算缓存修复报道时间线
沿着报道,了解事件的不同侧面。
10月5日
- arXiv:cs.LGBudgeted Cache Repair:跨上下文 KV-Cache 复用的按预算缓存修复
研究发现跨上下文 KV-Cache 复用并非无损:在 MMLU 和 GSM8K 上会带来明显精度损失,且按整次调用决定是否复用无法消除该损失。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。