研究提出对齐泛化预测任务及表征方法

Andy Liu 等作者发表论文，提出“对齐泛化预测”任务，即预测将模型微调以遵循某一价值后，其在大量留出价值上的行为变化，并对 66 种对齐目标中的价值做了大规模分析。 结果显示，基于模型激活的表征显著优于文本描述方法：最佳激活方法的相关系数达 0.45，而描述基线仅为 0.05。该表征还可用于衡量多价值对齐目标中各价值的相似度，并与模型鲁棒性显著相关。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。