vLLM 官方博客（RSS）· vLLM Team and Inferact·· 2026-07-27精选AI 评分72
vLLM 发布 Kimi K3 Day-0 支持，2.8T MoE 模型最高 370 tok/s
Kimi K3 Is Here: Efficient Day-0 Support on vLLM
AI 导读
vLLM 宣布对月之暗面 Kimi K3 提供 Day-0 高效支持。Kimi K3 是 2.8 万亿参数的 MoE 多模态模型，每 token 激活 896 个专家中的 16 个，基于 Kimi Delta Attention 与 Attention Residuals，支持 1M token 上下文窗口。
推荐理由
vLLM 官方详述 Kimi K3 的服务适配与内核优化，读者可以据此了解 2.8T 混合 MoE 的生产部署配方和性能数据。
来源：vLLM 官方博客（RSS） · vllm.ai