SemiAnalysis 长文 RSS（RSS）· Kimbo Chen·· 2 天前AI 评分39
GLM5.3 稀疏注意力如何影响 HBM 显存占用
How GLM5.3 Sparse Attention Affects HBM Memory Usage
AI 导读
SemiAnalysis 分析指出，稀疏注意力只在 SDPA 运算中降低 KV cache 的显存与带宽需求，并不减少整体显存容量占用，因为 top-k 选择仍需完整上下文驻留 HBM。
来源：SemiAnalysis 长文 RSS（RSS） · newsletter.semianalysis.com