跳到正文
原文
Nous Research:GitHub 新仓库· NousResearch·· 2026-06-30AI 评分45

Nous Research 发布 speculators:面向 vLLM 的投机解码统一库

NousResearch/speculators

AI 导读

Nous Research 在 GitHub 开源 speculators,一个用于构建、评估和存储 LLM 推理投机解码算法的统一库,面向 vLLM。该库将投机解码算法的开发、评测与存储整合到同一套工具中。

来源:Nous Research:GitHub 新仓库 ·