WakeKV：可逆KV缓存驻留策略论文发布

Utkarsh Ranjan 发布论文提出 WakeKV，一种响应式 KV 驻留策略：将“冷却”的注意力头状态移至可恢复的 CPU 存储池，而不是冻结或永久驱逐其状态。 研究在 1.5B–8B 三个模型、三种场景下测量发现，多数注意力头在生成过程中至少改变一次读取行为，这构成该策略针对“会改变读取行为的注意力头”的依据。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。