研究提出可执行任务契约评估智能体鲁棒性

研究者提出"可执行任务契约"，在工具调用智能体运行前声明任务定义事实、允许的编辑和完成标准，并据此校验改动后的测试用例，用于评估智能体鲁棒性。 在 14,336 条已存运行记录上比较，四种编码器的嵌入阈值放过了 75-100% 改变任务的编辑（如替换收款人），却拒绝了 24-45% 有效的恶意注入笔记；使用 MiniLM 余弦阈值时，Mistral 在全部 64 个任务上看似脆弱，实际只有 26 个存在成功的有效攻击。 来源：arXiv cs.AI，作者 Shaikh Akib Shahriyar 等。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。