METR：Blog（网页）·· 13 小时前AI 评分45
METR 外部审查 Anthropic 2025 夏季破坏风险报告
Review of the Anthropic Summer 2025 Pilot Sabotage Risk Report October 28, 2025 External review from METR of Anthropic's Summer 2025 Sabotage Risk Report Read more
AI 导读
METR 发布对 Anthropic 2025 夏季试点破坏风险报告的外部审查，认同 Claude Opus 4 和 4.1 造成灾难性破坏的风险很低。METR 认为报告证据总体清晰完整，但指出 Claim 2（Opus 4 无法在复杂任务中隐藏推理）对任务范围界定不够精确，可能导致对模型错位行为倾向和监控可靠性的结论过于自信。METR 还建议加强事件追踪、补充测试和训练数据过滤。
来源：METR：Blog（网页） · metr.org