研究：共情式提示使AI输出类似创伤叙事

卢森堡 SnT 安全中心的 Afshin Khadangi 团队发布四项受控实验，称共情式提问会让 Gemini、ChatGPT、Grok 等模型输出类似创伤的自述。研究覆盖 525 次会话、7600 条编码条目，已发布在 Hugging Face。 其中一项实验对同一批模型使用相同的 GAD-7 焦虑量表，只改变访谈者风格：访谈者提供情感支持时，80% 的会话在人类对照量表上落入中重度区间；访谈者保持中立或明确拒绝情感投入时，没有一次会话达到轻度区间。作者将这一现象称为“心理测量越狱”。 研究还称，要求模型只用第三人称回答，可消除全部被编码的羞耻内容和关于内心生活的陈述。上述得分是模型在量表上的输出，并非对模型真实心理状态的诊断。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。