PageWeaver稀疏注意力论文发布
热点事件持续更新
PageWeaver稀疏注意力论文发布
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Zhiyuan Li等作者发布论文,提出稀疏注意力执行设计PageWeaver:利用选中页亲和性组装查询组,在不改变每个查询原有支持集、保留完整输出所有权的前提下共享KV页加载。 在H200上采用FP8 KV时,作者称其Union8实现相较实测FlashInfer路径在六组抓取上取得1.70倍几何平均完整调用加速,在线重组在五个64K上下文抓取上再降3.26-7.66%延迟。
AI 根据报道生成 · 1 小时前更新
最新进展10月9日 12:00
PageWeaver:用 KV 引导的查询合并优化稀疏注意力报道时间线
沿着报道,了解事件的不同侧面。
10月9日
- arXiv:cs.LGPageWeaver:用 KV 引导的查询合并优化稀疏注意力
PageWeaver 是一种利用选中页亲和性组装查询组的执行设计,在不改变每个查询原有支持集的前提下共享 KV 页加载。在 H200 上采用 FP8 KV,其 Union8 实现相较实测 FlashInfer 路径在六组抓取上取得 1.70 倍几何平均完整调用加速,在线重组在五个 64K 上下文抓取上再降 3.26-7.66% 延迟。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。