SafeBranch：具身智能体分支对安全对齐框架

Hyunse Lee 等作者提出并发布 SafeBranch，一种基于分支对的具身智能体安全对齐框架。其做法是让智能体自身产生不安全轨迹，通过环境回滚回到导致违规的安全关键步骤，再让智能体给出安全替代动作，使两条分支仅在该步骤不同，从而对齐安全行为。 作者称，训练后的 actor 在部署时可安全行动，无需 critic 参与回路。这一结论目前来自作者自述，尚待独立验证；框架对任务、环境及回滚机制的具体适用范围也未在现有材料中说明。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。