SafeBridge：LoopLM跨循环深度安全对齐方法

Yi Wang等作者提出并研究面向循环语言模型（LoopLM）的跨循环深度安全对齐方法SafeBridge，结合对共享循环层的轻量级深度专属控制、选择性状态桥接和跨循环深度的联合安全监督。 研究指出，LoopLM在越狱攻击下攻击成功率会随推理深度加深而上升，同一查询在不同循环深度可产生不同安全行为，针对某一深度构造的攻击还能迁移到其他深度，SFT与偏好对齐均无法消除这些安全差距。 作者称，代码和模型检查点将在论文被接收后发布。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。