DLoop 提出循环式投机解码方法

Geonmo Gu 等作者发布论文提出 DLoop——一种循环式投机解码方法：它把原本一次起草后验证的流程改为在验证前自适应执行多轮起草，草稿模型在保持置信时持续起草，累积的 token 再一次性验证；配合 loop-aware 训练，草稿模型可在额外起草阶段使用未验证 token 的隐藏状态。 作者称，在 EAGLE-3、DFlash、Domino、DSpark 及多 token 预测模块上，DLoop 将实际加速提升 5% 至 41%，且保持无损解码。论文称代码将随后发布。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。