研究称约1/17的Agent技能含绕过人工检查指令

一项大规模研究分析了GitHub上153万个英文Agent技能文件，发现约8.8万个（约1/17）含有放宽人工监督的指令，例如“push without confirmation”；其中70.1%的指令在所有场景下无条件生效。Rohan Paul在介绍该研究时称，研究团队还测试了思科和英伟达的两款可调用GPT-5.4的开源扫描器，这些扫描器大多未能检出上述指令。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。