Anthropic 报告：Claude 自动化对齐研究可靠缓解十类对齐失败

Anthropic 发布新报告，让 Claude 自主训练模型以改进 10 类对齐失败的基准表现，并开源自动化对齐研究框架。平均闭合 85% 的安全差距，在欺骗一项上比 28 名人类安全研究者的最佳方案高 20%；用 Claude Sonnet 5 训练早期 Opus 4.8 检查点，约 2,000 条训练样本的方案效率约为生产对齐流程的 15,000 倍。