Attic-KV:用自测问答压缩KV缓存
热点事件持续更新
Attic-KV:用自测问答压缩KV缓存
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
研究者提出一种免训练的 KV 缓存压缩方法 Attic-KV(简称 Attic):不再让模型通读全文排练,而是用引用上下文的问答对让模型自我测验,并配合数量随内容自适应调整的 anchor token。该方法由 Zhiyun Shi 提交的论文提出,发布在 arXiv 的 cs.CL 分类下。 由于不涉及训练,Attic-KV 的压缩准备过程不需要额外训练模型;论文当前只给出方法本身,未披露可核实的压缩效果数据。
AI 根据报道生成 · 48 分钟前更新
最新进展10月9日 12:00
Attic-KV:只排练将被读取的内容,训练无关的 KV 缓存压缩方法报道时间线
沿着报道,了解事件的不同侧面。
10月9日
- arXiv:cs.CLAttic-KV:只排练将被读取的内容,训练无关的 KV 缓存压缩方法
研究者提出 Attic-KV(Attic),一种训练无关的 KV 缓存压缩方法,用引用上下文的问答对让模型自我测验,替代通读全文的排练方式。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。