RELAY：基于评分标准的强化学习选择性自蒸馏方法

RELAY 是一种面向评分标准（rubric）强化学习的选择性自蒸馏方法，通过优势与奖励筛选 rollout，并用蒸馏损失监测教师模型退出的时机。阶段一将冻结教师的选择性蒸馏与 GRPO 结合，平台期检测器随后移除教师，阶段二仅用 GRPO 继续训练；检测器在一个模型-领域组合上校准后直接复用于另外三个，触发步数在 122 至 171 之间。

摘自 arXiv：cs.LG

还没有足够的连续观测数据，暂不绘制趋势。