跳到正文
原文
vLLM 官方博客(RSS)· vLLM Team·· 2026-08-14AI 评分43

vLLM 推出 DSpark 自适应验证:按置信度调度投机解码预算

Adaptive Verification in vLLM: DSpark confidence-scheduled verification

AI 导读

vLLM 在 PR #47808 中引入 DSpark 置信度调度验证(enable_adaptive_verification),让引擎逐步决定验证多少 draft token,而非按部署固定 num_speculative_tokens。

来源:vLLM 官方博客(RSS) · vllm.ai