Whiteout：用混淆样本阻止LLM泄露个人信息

研究者 Anna Yoo Jeong Ha 等人提出 Whiteout，一种在个人提出请求后，用精确设计的混淆样本覆写真实个人敏感信息（PSI）的工具，以阻止 LLM 复述生日、电话、住址等内容。 论文称，在多种规模与厂商的 LLM（包括一款广泛使用的 OpenAI 模型）上，Whiteout 能有效阻止目标 PSI 泄露，对模型效用与安全性的影响可忽略，并优于现有方案；该工具还通过了越狱等黑盒攻击以及重学习、量化等白盒自适应攻击的测试。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。