vLLM 官方博客(RSS)· Alexandre Marques, Megan Flynn, Helen Zhao, Krishna Teja Chitty Venkata, Chibueze Ukachi (Red Hat AI)·· 2026-07-28AI 评分43
vLLM 与 Speculators 开源支持 P-EAGLE、DFlash、DSpark 三种并行草稿算法
Parallel All the Way Down: Beyond Single-Token Generation with Speculative Decoding
AI 导读
vLLM 与 Speculators 为 P-EAGLE、DFlash、DSpark 三种并行草稿(parallel drafting)算法提供完整开源支持,相关模型已发布在 RedHatAI HuggingFace Hub 的 Speculators Collection 中。
来源:vLLM 官方博客(RSS) · vllm.ai