Together AI 研究与产品博客（RSS）·2026-04-24 08:00· 2026-04-24AI 评分45

Together AI 用分布感知推测解码将 RL rollout 加速最高 50%

Accelerate RL rollouts by up to 50% with distribution-aware speculative decoding

AI 导读

Together AI 提出分布感知推测解码（DAS），在 RL 后训练中最高减少 50% 的 rollout 时间且不改变模型输出。DAS 由自适应后缀树草稿器和长度感知调度两部分组成，前者无需梯度更新即可持续适配策略变化，后者通过跨 GPU 负载均衡与 GPU 内推测预算分配削减长尾请求。