SAPD：步对齐特权蒸馏方法提出

Tianle Wang 等研究者提出 Step-Aligned Privileged Distillation（SAPD），一种无需 rollout 的自蒸馏方法，将固定示范转化为步对齐的分布监督，用参考解的已知推进过程为每个推理转折点关联针对性的特权引导。 作者称，在数学推理基准上，SAPD 平均表现优于监督微调和标签平滑，并与同策略强化学习和自蒸馏保持竞争力；同时基本保留域外编程能力，训练循环速度约为同策略基线的 2 倍。代码已公开。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。