热点事件持续更新
SGLang发布HiSparse优化稀疏注意力显存瓶颈
1 篇报道1 个报道来源13 小时前更新
先了解这件事
AI 综述
2026年9月30日，LMSYS（Chatbot Arena 团队）在官方博客发布 HiSparse 分层内存系统，用于缓解稀疏注意力的显存容量瓶颈。其做法是将不活跃的 KV cache 卸载到主机内存，同时在 GPU HBM 中保留热缓冲区。据该报道，在 GLM-5.1-FP8 上，8×H200 部署下 256 并发请求吞吐达基线 3 倍以上，长上下文场景最高提升 5 倍。目前 HiSparse 支持 DeepSeek-V3.2 与 GLM-5.1 等采用 DSA 的模型，属实验性功能。
AI 根据报道生成 · 11 小时前更新
最新进展9月30日 23:28
LMSYS 发布 HiSparse 分层内存系统，长上下文吞吐最高提升 5 倍。报道时间线
沿着报道，了解事件的不同侧面。
9月30日
- LMSYS：Blog（Chatbot Arena 团队）HiSparse：用分层内存为稀疏注意力提速，GLM-5.1-FP8 长上下文吞吐最高提升 5 倍
LMSYS 团队提出 HiSparse 分层内存系统，将不活跃的 KV cache 卸载到主机内存、在 GPU HBM 保留热缓冲区，缓解稀疏注意力的显存容量瓶颈。在 GLM-5.1-FP8 上，8×H200 部署下 256 并发请求吞吐达基线 3 倍以上，长上下文场景最高提升 5 倍。目前支持 DeepSeek-V3.2 与 GLM-5.1 等采用 DSA 的模型，属实验性功能。
本事件热度走势
当前热度 7·可比范围峰值 10（10月1日 01:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。