Risky-Bench：生活辅助智能体安全评测框架发布

Jingnan Zheng 等作者提出并发布了 Risky-Bench，一个面向生活辅助部署场景的智能体安全评测框架。该框架从领域无关的安全原则推导出情境化安全准则，并在分层攻击面上通过真实长程任务执行来探测风险，覆盖外卖、到店协助和在线旅行预订场景。 作者对 7 个 SOTA 智能体在 750 项任务上进行了评测，攻击成功率为 25% 至 60%，暴露出威胁模型相关漏洞、攻击面风险集中，以及显式推理的模型相关效应等系统性失败模式。据作者称，代码与数据已公开。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。