OpenAI 观察到多智能体交互中涌现的工具使用行为
OpenAI 报告,智能体在其新构建的模拟捉迷藏环境中训练时,逐步发现越来越复杂的工具使用行为。智能体在游戏中演化出六种不同的策略与反策略,其中部分策略是团队事先不知道该环境所支持的。OpenAI 认为这种简单环境中的自监督涌现复杂性表明,多智能体协同适应未来可能产生极其复杂和智能的行为。
推荐理由:OpenAI 自述多智能体在捉迷藏环境中自发演化出六种策略与反策略,可帮助读者了解多智能体协同适应如何产生复杂行为。
技术方向
让模型自主规划、调用工具、完成多步任务的技术方向——从 Claude Code、Manus 到各家 Agent 框架与评测基准的全部动态。
382 条精选近 30 天 226 条共收录 4,169 条
OpenAI 报告,智能体在其新构建的模拟捉迷藏环境中训练时,逐步发现越来越复杂的工具使用行为。智能体在游戏中演化出六种不同的策略与反策略,其中部分策略是团队事先不知道该环境所支持的。OpenAI 认为这种简单环境中的自监督涌现复杂性表明,多智能体协同适应未来可能产生极其复杂和智能的行为。
推荐理由:OpenAI 自述多智能体在捉迷藏环境中自发演化出六种策略与反策略,可帮助读者了解多智能体协同适应如何产生复杂行为。
OpenAI 提出一项 AI 安全技术:训练智能体就某一话题互相辩论,由人类判断谁获胜,以此辅助监督模型行为。
推荐理由:OpenAI 提出用智能体互相辩论、由人类裁判胜负来训练 AI 的安全方法,为对齐研究提供了一条可参考的思路。