ReTeach：无需外部反馈的自蒸馏框架

Yafeng Tang 等作者提交论文，提出 ReTeach 反思式自蒸馏框架：仅凭模型自身生成的尝试和结果级验证，通过多轮反思与重试构建自教师，无需参考答案或外部反馈。在数学推理、科学问答和工具使用等六个基准上，该框架平均准确率较 GRPO 提升 1.39 个百分点。 方法上，ReTeach 采用结果感知的选择与加权策略，区分初始正确、反思纠正和未解决样本，并通过 on-policy 蒸馏让学生模型在单次推理下获得迭代纠正的收益。

AI 根据报道生成 · 56 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。