跳到正文
原文
vLLM 官方博客(RSS)· Alexandre Marques, Megan Flynn, Helen Zhao, Krishna Teja Chitty Venkata, Chibueze Ukachi (Red Hat AI)·· 2026-07-28AI 评分43

vLLM 与 Speculators 开源支持 P-EAGLE、DFlash、DSpark 三种并行草稿算法

Parallel All the Way Down: Beyond Single-Token Generation with Speculative Decoding

AI 导读

vLLM 与 Speculators 为 P-EAGLE、DFlash、DSpark 三种并行草稿(parallel drafting)算法提供完整开源支持,相关模型已发布在 RedHatAI HuggingFace Hub 的 Speculators Collection 中。

来源:vLLM 官方博客(RSS) · vllm.ai