研究：指令微调致模型输出坍缩

Chaemin Jang、Dongman Lee、Jihee Kim 发表论文称，指令微调语言模型并不从其能够描述的分布中采样，而是坍缩为单一输出：同一 persona 在同一问题上，超过半数题目的答案完全相同。 论文将这一失败归因于指令微调后训练，并称各模型家族的指令微调版本表现均差于其基座模型，差距随训练阶段推进和更新规模扩大而增大。研究由此提出 KNOWS/DOES split 来刻画该问题。上述结论均来自该论文自身的表述。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。