演示引导的黑盒安全RL观测攻击研究

研究者提出一种演示引导的观测攻击方法，用于分析未知的安全强化学习（Safe RL）控制器。该方法仅凭演示数据即可运作：通过逆约束强化学习恢复状态约束与代理策略，并从演示转移中学习动力学，再组合梯度生成有界观测扰动，无需受害者参数、梯度或查询。 该研究由 Jialiang Fan 等作者以预印本形式发布，面向机器人系统，目前处于 arXiv 的 cs.LG 分类下。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。