研究提出Untag攻击框架评估触发标签机制

Toluwani Aremu等作者在arXiv发表研究，将开放权重LLM中用于滥用检测的触发标签机制分为两类：解码时注入信号的token级触发标签，以及学习后门式关联的权重级触发标签。 作者提出统一攻击框架Untag，把两类机制的攻击面归入同一分类体系。以钓鱼内容为案例的评估显示，现有触发标签机制在攻击下完全失效，因此不应被视为鲁棒的滥用检测器。

AI 根据报道生成 · 59 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。