TreeGraft：多草稿器树形推测解码新框架

Jiaming Fan 等作者发布论文预印本，提出 TreeGraft——一个多草稿器推测解码框架。其做法是让开销不同的多个草稿模型共同构建同一棵草稿树：由更强的草稿模型对弱草稿模型的评分重新打分、重选嫁接位置，并以非破坏性方式并入强模型的扩展分支。 该框架的提出针对的是推测解码中如何利用多个不同成本草稿模型的问题。作者称，TreeGraft 的目的是让不同开销的草稿模型协同构建共享草稿树；这些机制的实际加速效果论文摘要中未作量化说明，仅作为预印本发布，尚待同行评议。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。