arXiv：cs.AI（全量分类）· Emile Anand, Abdullah Ateyeh, Archer Wang, Marin Solja\v{c}i\'c·2026-09-30 12:00· 1 天前AI 评分35

SMat-Attention：结构化长上下文序列建模

SMat-Attention: Structured Long-Context Sequence Modeling

AI 导读

研究者提出 Structured Matrix Attention（SMat-Attention），用一类行支撑集 VC 维度为 d 的因果掩码连接 softmax 注意力与线性注意力。