跳到正文
热点事件持续更新

Attic-KV:用自测问答压缩KV缓存

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

研究者提出一种免训练的 KV 缓存压缩方法 Attic-KV(简称 Attic):不再让模型通读全文排练,而是用引用上下文的问答对让模型自我测验,并配合数量随内容自适应调整的 anchor token。该方法由 Zhiyun Shi 提交的论文提出,发布在 arXiv 的 cs.CL 分类下。 由于不涉及训练,Attic-KV 的压缩准备过程不需要额外训练模型;论文当前只给出方法本身,未披露可核实的压缩效果数据。

AI 根据报道生成 · 48 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月9日
  1. arXiv:cs.CL
    Attic-KV:只排练将被读取的内容,训练无关的 KV 缓存压缩方法

    研究者提出 Attic-KV(Attic),一种训练无关的 KV 缓存压缩方法,用引用上下文的问答对让模型自我测验,替代通读全文的排练方式。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。