ALLOT:免训练块稀疏注意力分配方法
热点事件观察中
ALLOT:免训练块稀疏注意力分配方法
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
Tianze Xia 等作者提出免训练稀疏分配方法 ALLOT,用于视频扩散 Transformer 的块稀疏注意力。该方法把每个层-step 组合视为单元,通过单元探测与轨迹校准估计各单元对最终视频误差的贡献,再在实测延迟预算下联合优化各单元密度。 据作者报告,在 HunyuanVideo 上配合 XAttention 时 PSNR 提升 11.8 dB;在 Wan2.1、Wan2.2 和 HunyuanVideo 的九项设置中,全部优于或持平默认配置。
AI 根据报道生成 · 45 分钟前更新
最新进展10月21日 08:00
ALLOT:面向视频扩散 Transformer 的免训练块稀疏注意力分配方法报道时间线
沿着报道,了解事件的不同侧面。
10月21日
- HuggingFace Daily PapersALLOT:面向视频扩散 Transformer 的免训练块稀疏注意力分配方法
研究提出免训练稀疏分配方法 ALLOT,把每个层-step 组合视为单元,通过单元探测与轨迹校准估计其对最终视频误差的贡献,再在实测延迟预算下联合优化各单元密度。在 HunyuanVideo 上配合 XAttention 时 PSNR 提升 11.8 dB,在 Wan2.1、Wan2.2 和 HunyuanVideo 的九项设置中全部优于或持平默认配置。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。