研究：模型倾向如何泛化到分布外

June Hunter 等作者发表论文，研究语言模型倾向的分布外（OOD）泛化：用 system prompting、few-shot、SFT 和 GRPO 等技术在模型中增强某个目标倾向后，测量它对其他倾向的影响，并以交叉激发矩阵呈现溢出效应，报告了 spillover 与 drift 现象。 论文称代码与数据已开源。研究关注的不是单一倾向本身，而是被激发的倾向在训练分布之外向其他倾向扩散的程度。 报道未给出这些溢出效应对模型实际行为的具体影响范围。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。