研究提出合并后门OMCB与SMOKE攻击框架
热点事件持续更新
研究提出合并后门OMCB与SMOKE攻击框架
1 篇报道1 个报道来源16 小时前更新
先了解这件事
AI 综述
Yukun Chen等作者提出了一种单侧合并条件后门（OMCB）：它在独立模型中处于休眠、不可检测状态，但经模型合并后会被激活，触发安全失对齐。作者同时提出基于元学习的攻击框架SMOKE，通过双层优化策略注入OMCB。 作者称，该框架在多种模型架构和合并技术上验证了有效性，并表现出对现有后门检测的抵抗能力。
AI 根据报道生成 · 2 小时前更新
最新进展10月15日 12:00
模型合并后的后门失对齐：SMOKE 攻击框架研究报道时间线
沿着报道，了解事件的不同侧面。
10月15日
- arXiv：cs.AI模型合并后的后门失对齐：SMOKE 攻击框架研究
研究揭示了一种新型威胁——单侧合并条件后门（OMCB），该后门在独立模型中处于休眠且不可检测状态，但在模型合并后会被激活并触发安全失对齐。为此提出基于元学习的攻击框架 SMOKE，通过双层优化策略注入 OMCB，在多种模型架构和合并技术上验证了其有效性及对现有后门检测的抵抗能力。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。