跳到正文
热点事件持续更新

PageWeaver稀疏注意力论文发布

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Zhiyuan Li等作者发布论文,提出稀疏注意力执行设计PageWeaver:利用选中页亲和性组装查询组,在不改变每个查询原有支持集、保留完整输出所有权的前提下共享KV页加载。 在H200上采用FP8 KV时,作者称其Union8实现相较实测FlashInfer路径在六组抓取上取得1.70倍几何平均完整调用加速,在线重组在五个64K上下文抓取上再降3.26-7.66%延迟。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月9日
  1. arXiv:cs.LG
    PageWeaver:用 KV 引导的查询合并优化稀疏注意力

    PageWeaver 是一种利用选中页亲和性组装查询组的执行设计,在不改变每个查询原有支持集的前提下共享 KV 页加载。在 H200 上采用 FP8 KV,其 Union8 实现相较实测 FlashInfer 路径在六组抓取上取得 1.70 倍几何平均完整调用加速,在线重组在五个 64K 上下文抓取上再降 3.26-7.66% 延迟。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。