研究：激活探针合成数据量取决于覆盖度

一项研究提出，语言模型激活探针所需的合成数据量由被监控概念的覆盖度决定，而非单类样本的难度。Ankush Checkervarty 发表论文并公开了评测套件、dev 集与生成数据集。 研究称，在 Gemma-3-27B-IT 上，针对高危与有害回复的探针仅需 80 个样本即接近平台期，而指令遵循探针所需样本量要高出数倍。

AI 根据报道生成 · 55 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。