跳到正文
热点事件观察中

免训练块注意力加速视频扩散Transformer

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

论文作者提出免训练的精确块注意力方法 AB-Attention,用于在高稀疏度下逼近稠密注意力,从而加速视频扩散 Transformer。该方法先用块内聚类选择器(IBCS)低成本评估各块的重要性,再按包含概率加权采样(SIP)按比例采样块,并以逆概率重加权。 作者称,在 Wan2.1 和 HunyuanVideo 上,该方法跳过 89–92% 的注意力计算,基线计算量是其 1.8–3.6 倍,PSNR 最高提升 4.4 dB,端到端加速最高 2.23 倍。代码已开源。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月29日
  1. HuggingFace Daily Papers
    AB-Attention:用精确块注意力加速视频扩散 Transformer

    AB-Attention 是一种免训练方法,通过块内聚类选择器(IBCS)低成本评估块重要性,并用包含概率加权采样(SIP)按比例采样块、以逆概率重加权,从而在高稀疏度下逼近稠密注意力。在 Wan2.1 和 HunyuanVideo 上,它跳过 89–92% 的注意力计算,基线计算量是其 1.8–3.6 倍,PSNR 最高提升 4.4 dB,端到端加速最高 2.23 倍。代码已开源。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。