LatentRiskBench评估企业Agent状态依赖风险

研究者提出 LatentRiskBench，用于评估企业智能体中仅凭单个动作无法判定的“状态依赖风险”。该基准把风险轨迹与共享同一终端动作、但潜在策略状态不同的良性轨迹配对，以区分两类行为。 实验显示，动作级评估仅能检出 0.09 的状态依赖违规，状态级评估则达 0.96；现有 guardrail 方法若不显式应用于工作流状态，大多会忽略这类风险。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。