热点事件持续更新
DeepSeek-V4分块KV缓存压缩现周期性相位敏感
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
2026年10月1日,HuggingFace Daily Papers 收录一项社区热门论文,研究分块 KV-cache 压缩对模型检索能力的影响。论文发现,采用分块 KV-cache 压缩的模型存在相位敏感性:检索准确率随压缩 stride 呈周期性波动,弱位置足以翻转答案。在 DeepSeek-V4 系列上,128K tokens 下最优与最差相位组差距达 15 到 40 个点。从零预训练的 0.6B 对照实验显示,该周期始终跟随 stride;full attention 各位置差距仅 6.1 个点,而压缩模型可达 78 个点。目前该发现以论文形式发布,尚无官方回应或修复方案。
AI 根据报道生成 · 9 小时前更新
最新进展10月1日 02:31
论文发现分块KV-cache压缩致检索准确率随stride周期性波动,弱位可翻转答案。报道时间线
沿着报道,了解事件的不同侧面。
10月1日
- HuggingFace Daily Papers(社区热门论文)研究揭示分块 KV-cache 压缩导致模型出现周期性相位敏感弱位
论文发现采用分块 KV-cache 压缩的模型存在相位敏感,检索准确率随压缩 stride 周期性波动,弱位置足以翻转答案。在 DeepSeek-V4 系列上,128K tokens 下最优与最差相位组差距达 15 到 40 个点;从零预训练的 0.6B 对照实验显示周期始终跟随 stride,full attention 各位置差距仅 6.1 个点而压缩模型可达 78 个点。
本事件热度走势
当前热度 8·可比范围峰值 10(10月1日 03:00)·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。