跳到正文
热点事件持续更新

iS-KV:在线低秩KV缓存压缩方法

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

Yiren Zhao等作者提出iS-KV,一种面向长链推理的在线低秩KV缓存压缩方法。该方法通过块增量SVD将旧状态折叠为有界秩表示,并同步历史坐标与更新后的基,以保持表示一致性。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月5日
  1. arXiv:cs.AI
    iS-KV:通过块增量 SVD 实现在线低秩 KV Cache 压缩

    iS-KV 是一种面向长链推理的在线低秩 KV Cache 压缩方法,通过块增量 SVD 将旧状态折叠为有界秩表示,并同步历史坐标与更新后的基以保持表示一致性。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。