跳到正文
原文
Google Developers Blog(RSS)·· 11 小时前AI 评分43

如何在 TPU 上加速视频扩散模型的时空注意力

Accelerating Spatio-Temporal Attention for Video Diffusion on TPUs

AI 导读

Google 在 TPU 上通过稀疏注意力内核优化加速视频扩散模型的时空注意力计算。视频扩散中自注意力在单层延迟占比可从 720p 的 55.5% 升至 1440p 的 88.2%。

来源:Google Developers Blog(RSS) · developers.googleblog.com