HuggingFace Daily Papers(社区热门论文)·· 14 小时前AI 评分41
WorldAttention:面向交互式视频世界模型的高效注意力架构
WorldAttention: An Efficient Attention Architecture for Interactive Video World Models
AI 导读
研究者提出 WorldAttention,一种通过专用注意力内核与分层 KV cache 协同设计实现高效推理的注意力架构,用于文本条件交互式视频世界模型。其 Hybrid Sparse Attention 结合线性全局注意力与头自适应稀疏注意力,Hierarchical KV Cache 将历史 KV 对按语义索引分页存放于多级内存。
来源:HuggingFace Daily Papers(社区热门论文) · huggingface.co