CIG-SFT：用条件信息增益加权微调大模型

研究者提出 CIG-SFT，一个基于信息论的有监督微调框架，通过比较冻结参考模型在有/无任务输入时的 token 似然，估计每个示范 token 携带的任务条件信息增益，并将其转化为 KL 正则化的策略投影，得到梯度等价的标量加权 SFT 目标。该工作由 Yuxuan Gu 等作者以预印本形式发布。 据论文，CIG-SFT 在数学推理与代码生成基准上持续优于标准 SFT 和近期自适应微调基线，且无需额外训练数据或在线 rollout。上述效果为论文报告结果。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。