跳到正文
热点事件持续更新

DeepSeek-V4分块KV缓存压缩现周期性相位敏感

1 篇报道1 个报道来源9 小时前更新

先了解这件事

AI 综述

2026年10月1日,HuggingFace Daily Papers 收录一项社区热门论文,研究分块 KV-cache 压缩对模型检索能力的影响。论文发现,采用分块 KV-cache 压缩的模型存在相位敏感性:检索准确率随压缩 stride 呈周期性波动,弱位置足以翻转答案。在 DeepSeek-V4 系列上,128K tokens 下最优与最差相位组差距达 15 到 40 个点。从零预训练的 0.6B 对照实验显示,该周期始终跟随 stride;full attention 各位置差距仅 6.1 个点,而压缩模型可达 78 个点。目前该发现以论文形式发布,尚无官方回应或修复方案。

AI 根据报道生成 · 9 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月1日
  1. HuggingFace Daily Papers(社区热门论文)
    研究揭示分块 KV-cache 压缩导致模型出现周期性相位敏感弱位

    论文发现采用分块 KV-cache 压缩的模型存在相位敏感,检索准确率随压缩 stride 周期性波动,弱位置足以翻转答案。在 DeepSeek-V4 系列上,128K tokens 下最优与最差相位组差距达 15 到 40 个点;从零预训练的 0.6B 对照实验显示周期始终跟随 stride,full attention 各位置差距仅 6.1 个点而压缩模型可达 78 个点。

本事件热度走势

当前热度 8·可比范围峰值 10(10月1日 03:00)·近 24 小时可比范围变化 –

02.557.51010月1日03:0010月1日06:0010月1日08:0010月1日11:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。