研究者提出条件锚定生成蒸馏CAGD

Huan Li等作者提交论文，提出条件锚定生成蒸馏（CAGD）方法，用于稳定语言模型的持续学习。 该方法的具体做法是：保留少量旧提示词，用冻结的上一版模型重建补全与生成状态，并在学习新任务时匹配其预测分布。论文称，这一机制可以稳定语言模型的持续学习。 上述效果来自论文自身的表述，尚待进一步验证。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。