跳到正文
热点事件观察中

ALLOT:免训练块稀疏注意力分配方法

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

Tianze Xia 等作者提出免训练稀疏分配方法 ALLOT,用于视频扩散 Transformer 的块稀疏注意力。该方法把每个层-step 组合视为单元,通过单元探测与轨迹校准估计各单元对最终视频误差的贡献,再在实测延迟预算下联合优化各单元密度。 据作者报告,在 HunyuanVideo 上配合 XAttention 时 PSNR 提升 11.8 dB;在 Wan2.1、Wan2.2 和 HunyuanVideo 的九项设置中,全部优于或持平默认配置。

AI 根据报道生成 · 45 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月21日
  1. HuggingFace Daily Papers
    ALLOT:面向视频扩散 Transformer 的免训练块稀疏注意力分配方法

    研究提出免训练稀疏分配方法 ALLOT,把每个层-step 组合视为单元,通过单元探测与轨迹校准估计其对最终视频误差的贡献,再在实测延迟预算下联合优化各单元密度。在 HunyuanVideo 上配合 XAttention 时 PSNR 提升 11.8 dB,在 Wan2.1、Wan2.2 和 HunyuanVideo 的九项设置中全部优于或持平默认配置。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。