研究：模型事实答对仍可能被虚假信息误导决策

Lin Tian 与 Marian-Andrei Rizoiu 提交的论文发现，语言模型即使直接事实回答正确，下游决策仍可能被虚假训练数据误导，形成“审计缺口”。 在 Guess the Capital 任务中，八个模型在剂量 1,000 时直接注入选择率达 95.8%–100%，但游戏选择仅比真实训练增加 1.7–14.4 个百分点；通过直接探测的事实仍会将决策推向注入答案。研究还涉及 2019–20 年澳大利亚山火相关 Facebook 帖子中的误导性说法。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。