SemiAnalysis 分析 GLM-5.3 稀疏注意力对 HBM 与推理成本影响

2026年9月29日，SemiAnalysis 发布长文分析 GLM-5.3 稀疏注意力对 HBM 显存占用与推理成本的影响，涉及 NVIDIA GB200/GB300 与 AMD MI355X 平台。SemiAnalysis 称，稀疏注意力只在 SDPA 运算中降低 KV cache 的显存与带宽需求，并不减少整体显存容量占用，因为 top-k 选择仍需完整上下文驻留 HBM，并讨论了 HiSparse 优化效果及推理服务成本。同日 SemiAnalysis 在 X 平台发布同主题推文，列出 KV Cache 卸载、AgentX TileRT、InferenceX DeepSeek 稀疏注意力、IndexShare 等关键词并附长文链接。 10月14日，SemiAnalysis 再发推文称，本周其成员与 Jordan 一起解析稀疏注意力、“无人定价的内存瓶颈”，并提出更便宜的 token 可能意味着更多 HBM 而非更少；推文同时引用“只要你有预算，它写 kernel 会比人类更快”的说法。

AI 根据报道生成 · 1 小时前更新

1. 10月14日 19:00 · 1 篇报道
   GLM 5.3 值不值得警惕？
   SemiAnalysis：GLM 5.3 值不值得警惕？
2. 9月29日 03:26 · 2 篇报道
   SemiAnalysis分析GLM-5.3稀疏注意力对HBM内存及推理成本影响
   SemiAnalysis 长文 RSS：GLM5.3 稀疏注意力如何影响 HBM 显存占用

还没有足够的连续观测数据，暂不绘制趋势。