研究者提出RC-OPD在线策略蒸馏方法

针对在线策略自蒸馏（OPSD）中参考解法无法解释学生自身推理错误、易导致推理错配与蒸馏陷阱的问题，Chenglei Shen等作者提出根因引导的在线策略蒸馏（RC-OPD）。该方法对每次失败尝试定位最早实质性错误、生成局部修正，并以修正后的中间结果作为有效前缀锚点，通过迭代的诊断—修复—续写流程，在固定修复预算内检验修复效果。 多数据集与多模型规模的实验显示，RC-OPD缓解了推理错配与蒸馏陷阱，取得显著性能提升。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。