研究诊断System One模型Agent决策失败

Yubo Li等人发布一项行为学诊断研究，指出System One模型在Agent循环中常出现“读对却做错”：在覆盖模拟环境、客服策略、工具使用、网页导航与编程的冻结基准上，每个下一动作问题都配有针对同一状态的事实探针。 在十七个快速系统与一个推理模型上，多数错误动作发生在正确读取之后，且系统越准确这类错误占比越高。当探针事实可证明决定动作时，读对全部事实的模型仍无法组合它们；研究称缺失的往往不是事实而是下一个子目标。 该研究为初始版本，用于开放讨论和分享初步发现，更多开源System One模型的评估仍在进行。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。