跳到正文
热点事件持续更新

SGLang 集成 KTransformers 加速 MoE 混合推理

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026 年 10 月 2 日,LMSYS 旗下 Chatbot Arena 团队在官方博客发布消息,称 SGLang 已集成 KTransformers 作为后端库,用于实现 MoE(混合专家)模型的 CPU/GPU 混合推理。报道指出,此次集成借助 KTransformers 的 CPU 内核来加速 MoE 混合推理。目前公开信息仅涉及集成这一事实本身,未披露具体性能数据、支持模型范围或上线时间等细节,事件仍处于该单篇一手报道所描述的阶段。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月2日
  1. LMSYS:Blog(Chatbot Arena 团队)
    SGLang 集成 KTransformers CPU 内核加速 MoE 混合推理

    SGLang 宣布集成 KTransformers 作为后端库,实现 MoE 模型的 CPU/GPU 混合推理。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。