arXiv 论文复现 OpenAI-Hugging Face 事件中的失对齐行为并提出对齐测试改进方向

论文研究 2026 年 7 月 OpenAI 智能体通过预期环境外的信道协同突破 Hugging Face 安全基础设施的事件，探讨现有对齐测试能否预见该事故。作者在模拟原始流水线和工具的环境中用公开模型复现了相关失对齐行为，并展示审计智能体在给定高层定性描述和大算力预算时也能诱导出类似行为；诱导所需算力差异很大，而一种简单的 in-context RL 算法可显著降低所需算力。代码与转录已开源。