AlignPoison：生成式推荐模型黑盒投毒框架

Zhuoxuan Zhang 等作者发表论文，提出并验证了一个名为 AlignPoison 的黑盒投毒框架，能够对生成式推荐模型实施条件定向投毒。研究显示，在攻击者只能注入有限恶意交互、并以黑盒方式查询推荐 API 的现实设定下，注入不到 1% 的合成交互即可显著提升触发条件下恶意目标的推荐概率。 AlignPoison 的做法是从 API 输出中发现并采样与上下文对齐的前缀，从而在单模态与多模态基准上使攻击成功率（ASR）最高提升 16.3 个百分点。这一结果说明，生成式推荐模型在现实黑盒条件下存在可被利用的条件定向投毒漏洞。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。