MaskAhead：块扩散语言模型免训练KV缓存驱逐
热点事件持续更新
MaskAhead：块扩散语言模型免训练KV缓存驱逐
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Gleb Molodtsov 等作者提交论文预印本，提出免训练方法 MaskAhead，用单一掩码查询排序机制同时完成块扩散语言模型的 KV 缓存选择与驱逐。 论文报告，在长提示词问答任务上，MaskAhead 平均减少 9.5 倍 KV 内存，F1 仅下降 1.2 分；其量化版本 Q-MaskAhead 将内存压缩提升至 20.1 倍，F1 下降 2.3 分。batch-32 系统测试中，端到端与解码阶段分别提速 1.23 倍和 1.68 倍。
AI 根据报道生成 · 2 小时前更新
最新进展10月7日 12:00
MaskAhead：块扩散语言模型中的掩码引导 KV Cache 驱逐报道时间线
沿着报道，了解事件的不同侧面。
10月7日
- arXiv：cs.LGMaskAhead：块扩散语言模型中的掩码引导 KV Cache 驱逐
MaskAhead 是一种免训练方法，用单一掩码查询排序机制同时完成块扩散语言模型的 KV 选择与驱逐。在长提示词问答任务上，它平均减少 9.5× KV 内存，F1 仅下降 1.2 分；量化版 Q-MaskAhead 将内存压缩提升至 20.1×，F1 下降 2.3 分。batch-32 系统测试中，端到端与解码阶段分别提速 1.23× 和 1.68×。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。