vLLM 官方博客(RSS)· The vLLM Team and Google DeepMind Team·· 2026-06-10精选AI 评分75
vLLM 原生支持 Google DeepMind 26B 扩散语言模型 DiffusionGemma
DiffusionGemma: The First Diffusion LLM (dLLM) Natively Supported in vLLM
AI 导读
Google DeepMind 与 vLLM 团队合作,将 26B 参数、基于 Gemma4 的离散扩散语言模型 DiffusionGemma 接入 vLLM,这是 vLLM 首个原生支持的 dLLM。
推荐理由
原文详解了扩散语言模型的解码机制和 vLLM 的 ModelState 接入方案,并给出 H200 上的吞吐数据,对推理工程实践有直接参考价值。
来源:vLLM 官方博客(RSS) · vllm.ai