OpenAI 为何看好"confessions"：让模型自我坦白以提升诚实性

OpenAI 发布关于 confessions 的新论文与博客，提出训练模型在正常回答之外再输出一份仅以诚实为奖励的"坦白"，以缓解奖励模型被 hack 的问题。在句子字数约束实验中，任务判官检测违规的准确率随训练下降，而使用同一弱判官的 confessions 准确率持续上升并接近 100%。作者认为诚实坦白是"阻力最小路径"，但模型因真实困惑而非故意违规时更难如实坦白。