MCMC采样微调让SFT媲美后训练技术

2026年10月3日，arXiv cs.LG分类发布一项研究，提出一种MCMC采样算法，在给定参考模型下将off-policy轨迹逐步转化为更接近on-policy的数据，从而让SFT（监督微调）媲美主流后训练技术。报道称，在科学技能习得、数学推理和开放式专业知识等任务上，该方法常比强on-policy基线泛化更好、遗忘更少，并展现出超越锐化基座模型分布的分布性能。目前该研究仅以预印本形式公开，尚无后续进展报道。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。