vLLM 官方博客（RSS）· vLLM Team·2026-07-22 08:00· 2026-07-22精选AI 评分68

vLLM 预告 Kimi K3 生产级支持：2.8T 参数、1M 上下文与 KDA 前缀缓存方案

A Preview of Production-Scale Kimi K3 Support on vLLM

AI 导读

vLLM 发布 Kimi K3 生产级支持的预览博客，正与 Moonshot AI、NVIDIA、AMD 等推进最终集成，计划在 2026 年 7 月 27 日权重发布时提供 day-0 开源服务，包括模型实现、Docker 镜像和部署方案。

推荐理由

vLLM 团队详解 KDA 混合架构带来的前缀缓存改造与内核优化，对部署混合注意力模型的工程团队有可迁移参考价值。