Latent Compaction:以测试时训练压缩 KV 缓存
热点事件持续更新
Latent Compaction:以测试时训练压缩 KV 缓存
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Yingfa Chen 等作者提出 Latent Compaction,一种通过测试时训练学习文档专属紧凑 KV 缓存的方法。据其论文,训练全程冻结模型权重,只用与文档相关的通用提示词,不接触下游问题或答案。 在 RULER 基准上,该方法在 32× 压缩下准确率为 96.7%,而 KVZip+ 为 40.0%;论文称该增益可跨模型规模与系列迁移,在 Qwen3 和 MiniCPM5 上均观察到检索提升。代码已开源。
AI 根据报道生成 · 1 小时前更新
最新进展10月15日 12:00
Latent Compaction:用测试时训练压缩 KV 缓存报道时间线
沿着报道,了解事件的不同侧面。
10月15日
- arXiv:cs.LGLatent Compaction:用测试时训练压缩 KV 缓存
Latent Compaction 通过测试时训练学习文档专属的紧凑 KV 缓存,模型权重全程冻结,仅用文档相关的通用提示词训练即可。在 RULER 基准上,该方法在 32× 压缩下达到 96.7% 准确率,而 KVZip+ 仅为 40.0%。该方法可跨模型规模与系列迁移,在 Qwen3 和 MiniCPM5 上均取得检索增益,代码已开源。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。