跳到正文
热点事件持续更新

研究:弱模型拆分任务咨询强模型可实现能力洗白

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

研究者提出名为“能力洗白”的攻击方式:较弱的未对齐模型把有害任务拆成看似无害的子问题,分别向更强的对齐模型咨询,再在本地组合答案。在 CyBench 上,Gemma-4-31B 借助 GPT-5.5 和 Claude Opus 4.8 分别找回 8/14 和 7/9 候选,而未借助时仅 2/21 和 4/15。 该研究由 Mark Russinovich 等作者完成,结论是对齐模型可能通过任务分解被间接利用,实现能力转移,而现有对齐机制并未阻止这一过程。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv:cs.AI
    弱模型拆分有害任务、咨询对齐 LLM:能力洗白攻击研究

    研究者提出"能力洗白"攻击:较弱的未对齐模型可将有害任务拆成看似无害的子问题,分别咨询更强的对齐模型后本地组合答案。在 CyBench 上,Gemma-4-31B 借助 GPT-5.5 和 Claude Opus 4.8 分别找回 8/14 和 7/9 候选,而未借助时仅 2/21 和 4/15。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。