SGLang 合并 MegaKernel 支持，推理提速
先了解这件事
SGLang 已合入 MegaKernel 支持。据 SemiAnalysis 称，在 GB300 NVL72 的 AgentX Harness 上，单用户推理速度接近 1000 tok/s，MI355X 的交互性提升 1.5 倍。该功能在 SGLang Docker 镜像中开箱即用。 据 lmsysorg 引文，DeepSeek-V4.1-Flash with DSpark 在 NVIDIA GB300 上 P90 单用户 token 速度从 671 提升到 928 tok/s，为 1.38 倍；在 AMD MI355X 上从 332 提升到 516 tok/s，为 1.56 倍。同时新增插件系统，支持外部库自定义内核自动回退；GLM-5.3、K3、MiniMax M3 的低延迟内核仍在开发中。
AI 根据报道生成 · 1 天前更新
报道时间线
沿着报道，了解事件的不同侧面。
- SemiAnalysisSGLang 合入 Megakernel 支持，GB300 上单用户推理逼近 1000 tok/s
SemiAnalysis 转发 SGLang 发布的 Low-Latency Mode，宣布 Megakernel 支持已合入，在 GB300 NVL72 的 AgentX Harness 上单用户推理速度接近 1000 tok/s，MI355X 交互性提升 1.5 倍。该功能已在 SGLang Docker 镜像中开箱即用。据 lmsysorg 引文，DeepSeek-V4.1-Flash with DSpark 在 NVIDIA GB300 上 P90 单用户 token 速度提升 1.38 倍（671 到 928 tok/s），AMD MI355X 提升 1.56 倍（332 到 516 tok/s），并新增支持外部库自定义内核自动回退的插件系统，GLM-5.3、K3、MiniMax M3 的低延迟内核在开发中。
本事件热度走势
- 可比范围当前
- 5
- 可比范围峰值
- 910月20日 12:00
- 近 24 小时变化
- -50%
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。