热点事件持续更新
Anthropic发布自动对齐审计代理研究
1 篇报道1 个报道来源13 小时前更新
先了解这件事
AI 综述
2026年9月30日，Anthropic 在 Transformer Circuits 可解释性研究栏目发布对齐审计智能体研究。Anthropic 开发了三个自主执行对齐审计任务的智能体，并在含植入缺陷的目标模型上验证其能力与局限：调查智能体在真实条件下以 13% 的成功率解开 Marks et al. 审计游戏，通过外层智能体循环聚合多次调查后提升到 42%；评估智能体构建的行为评估在 88% 的运行中区分出有无植入行为的模型；广度优先红队智能体发现 10 个植入行为中的 7 个。研究同时指出这些智能体仍存在局限。
AI 根据报道生成 · 11 小时前更新
最新进展9月30日 23:28
Anthropic 发布三个对齐审计智能体，审计游戏成功率 13%，聚合后升至 42%。报道时间线
沿着报道，了解事件的不同侧面。
9月30日
- Anthropic：Transformer Circuits（可解释性研究）Anthropic 开发三个对齐审计智能体并用审计游戏验证其能力与局限
Anthropic 开发了三个自主执行对齐审计任务的智能体，并在含植入缺陷的目标模型上验证。调查智能体在真实条件下以 13% 的成功率解开 Marks et al. 审计游戏，通过外层智能体循环聚合多次调查提升到 42%；评估智能体构建的行为评估在 88% 的运行中区分出有无植入行为的模型；广度优先红队智能体发现 10 个植入行为中的 7 个。
本事件热度走势
当前热度 7·可比范围峰值 10（10月1日 01:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。