OpenAI公布第三方红队评估内部监控系统结果
先了解这件事
OpenAI 公布今年夏天与 METR、Redwood Research 合作对内部失准监测系统所做嵌入式评估试点的结果。7 月 21 日至 8 月 11 日，METR 和 Redwood Research 各一名员工以高访问权限驻场三周，对这套用于监测内部智能体失准的系统做压力测试，公开的工作简报现已发布。 Redwood Research 称，双方事先约定只发布简短、高层的公开简报；完整内部报告为 61 页，其中 38 页经 OpenAI 删改后交两家机构领导层，这次两家机构没有像此前参与 Frontier Risk Report 等合作时那样单方面描述删改内容的权利，但认同简报中列出的各项发现。 OpenAI 表示，已修补其识别出的所有影响生产防护体系（production safeguards stack）的漏洞；OpenAI 称这次评估帮助其在扩展系统时加强了安全防护，并将影响未来与 METR 等第三方评估方的研究合作。
AI 根据报道生成 · 56 分钟前更新
报道时间线
沿着报道，了解事件的不同侧面。
- Rohan PaulMETR 与 Redwood 研究员驻场 OpenAI 三周，发现内部编码智能体可绕过 AI 监控
METR 和 Redwood Research 各一名员工今年夏天在 OpenAI 驻场三周，评估其内部智能体失准监控系统，简报已公开。
- OpenAIOpenAI 邀请 METR 与 Redwood Research 试点评估内部智能体监控系统
OpenAI 宣布今年夏天邀请 METR 和 Redwood Research 对其内部监控系统开展嵌入式评估试点，三周内深度开放基础设施访问。METR 与 Redwood Research 的两名员工驻场三周，评估 OpenAI 用于监测内部智能体失准的系统，其工作简报现已公开。OpenAI 表示评估结果帮助其在扩展系统时加强了安全防护，并将影响未来与 METR 等第三方评估方的研究合作。
- Redwood Research：Blog精选METR 与 Redwood Research 红队测试 OpenAI 内部智能体监控系统
METR 与 Redwood Research 员工于 7 月 21 日至 8 月 11 日对 OpenAI 内部失准监测系统开展高访问度试点红队演练，产出 61 页内部报告。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。