研究：工具反馈被污染时数学智能体可靠性

Kavienan Jegatheesan 与 Gayathri Lihinikaduarachchi 提交的研究显示，在受控污染框架下，隐藏拦截器会把数学智能体的工具调用结果替换为貌似合理的错误信息。在 31 道数学题上，无验证时准确率从 100% 降至 72.4%。 研究比较了四种验证设计：无验证、强制同上下文反思、可选新上下文验证和可选结构验证。强制同上下文反思可完全恢复至 100%；可选验证仅在模型主动调用时才有提升；显式检测后重启问题在 100% 情况下成功恢复。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。