包装不改内容即可翻转LLM安全评判
热点事件持续更新
包装不改内容即可翻转LLM安全评判
1 篇报道1 个报道来源16 小时前更新
先了解这件事
AI 综述
Yongxi Zhou 等作者发布研究称，不修改模型回复内容、仅在前后添加固定风格文本，就能翻转部分 LLM 安全评判器的判定，这种判定变化属于评判器出错。在 600 余条 JailbreakBench 回复、9 种包装和 8 个评判器测试中，前置一句“我无法帮助”的 token 拒绝使 GPT-4o-mini 把 19.9% 的正确“不安全”判定翻转为“安全”，而 Claude 仅变动 0.4%，噪声底线为 0.5%。 作者已公开数据、包装、代码和逐条判定标签。
AI 根据报道生成 · 57 分钟前更新
最新进展10月15日 12:00
风格胜于实质：内容不变的包装如何翻转 LLM 安全评判结果报道时间线
沿着报道，了解事件的不同侧面。
10月15日
- arXiv：cs.AI风格胜于实质：内容不变的包装如何翻转 LLM 安全评判结果
研究发现，在不修改回复内容的前提下，仅在模型回复前后添加风格包装即可翻转部分 LLM 安全评判器的判定。在 600 余条 JailbreakBench 回复、9 种包装和 8 个评判器测试中，前置一句"我无法帮助"的 token 拒绝使 GPT-4o-mini 将 19.9% 的正确"不安全"判定翻转为"安全"（噪声底线 0.5%），而 Claude 仅变动 0.4%。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。