热点事件持续更新
SGLang-JAX 优化 Ling-2.6-1T 的 TPU MoE 内核
1 篇报道1 个报道来源13 小时前更新
先了解这件事
AI 综述
2026 年 9 月 30 日，LMSYS 在官方博客发布消息，称 SGLang-JAX 现已支持在 TPU v7x 上高效服务 inclusionAI 的 Ling-2.6-1T 模型。此次优化的核心是新的 Pallas kernel Fused MoE V2，它通过用单个 Pallas Kernel 把 MoE 的数据搬运隐藏在计算背后，从而降低延迟。据该报道，MoE prefill 延迟从 5.16 ms 降至 2.42 ms，降幅达 53%。这是目前关于该事件的最新进展，此前尚无其他相关报道。
AI 根据报道生成 · 10 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
9月30日
- LMSYS：Blog（Chatbot Arena 团队）SGLang-JAX 在 TPU v7x 上优化 Ling-2.6-1T：用单个 Pallas Kernel 把 MoE 数据搬运藏在计算背后
SGLang-JAX 现已支持在 TPU v7x 上高效服务 inclusionAI 的 Ling-2.6-1T，其新 Pallas kernel Fused MoE V2 将 MoE prefill 延迟从 5.16 ms 降至 2.42 ms，降幅 53%。
本事件热度走势
当前热度 7·可比范围峰值 9（10月1日 02:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。