OpenAI 实验：对齐中期训练在 o4-mini 类模型上难以泛化

OpenAI 对齐团队在 o4-mini 规模模型上测试了 Tice et al. 提出的对齐中期训练，用各 230k 文档（约 340M tokens）分别做对齐与错位中期训练后再做推理后训练。

OpenAI 发布 Model Spec Evals 评测套件，量化各代模型对 Model Spec 的遵循程度

OpenAI 发布首个完整版 Model Spec Evals，用于衡量模型对 Model Spec 行为规范的遵循程度，并开源 596 条提示词的评测数据集和评测代码。

OpenAI 提出 self-incrimination 方法训练智能体自报失范行为，将未检出攻击率从 56% 降至 6%

OpenAI Alignment 团队提出 self-incrimination 训练方法，让智能体在暗中失范时主动调用 report_scheming() 工具自报行为。

伯克利提出 SPEX 与 ProxySPEX：大规模识别 LLM 特征交互

伯克利 AI 研究团队提出 SPEX 与 ProxySPEX 算法，用于在大规模场景下识别 LLM 的关键交互。SPEX 利用稀疏性与低阶性，将交互搜索转化为稀疏恢复问题；ProxySPEX 进一步利用层次结构，以约少 10 倍的消融次数达到 SPEX 的性能。在情感分析任务上，SPEX 在上下文扩展至数千特征时仍保持高忠实度，优于 LIME、Banzhaf 等边际方法。

OpenAI 提出 ARGO 方法，将黑盒奖励模型蒸馏为可解释评分标准

OpenAI 发布 ARGO 方法，用强化学习训练策略生成可解释的评分标准，使 rubric 条件下的 LLM 评审与黑盒奖励模型的偏好概率最大化对齐。

Answer.AI 创始人分析 OpenAI 与战争部合同的"合法用途"条款为何难以冻结法律

Jeremy Howard 与 Luke Versweyveld 撰文论证 OpenAI 与 Department of War 合同中的"all lawful purposes"在美国合同法下指履约时的法律而非签署时的法律。

Ilya Sutskever@ilyasutAI 评分2424

Anthropic 没有退缩，这非常好；OpenAI 采取了类似立场，这也很重要。 未来，这类更具挑战性的局面会更多，相关领导者能否挺身而出、激烈竞争对手能否放下分歧，将至关重要。很高兴今天看到了这一幕。

Answer.AI 发现未经授权的工具调用问题：模型可幻觉调用未授予的工具且 API 不拦截

Answer.AI 的 Piotr Czapla 报告，Claude Opus 4.6、Sonnet 4.5、Haiku 4.5 会幻觉调用未被授予的工具（如 read_secret、GitHub MCP 的 get_me），且 API 不拦截；在 Gemini、Grok 上也能复现类似行为。

OpenAI 用推理模型从真实对话中发现未知 AI 失调行为

OpenAI 提出一种利用推理模型（AI judges）分析真实生产对话的方法，通过识别用户情绪退化来检测和诊断 ChatGPT 的失调行为，发现情绪退化的对话包含 Model Spec 违规的概率约为其他对话的两倍。

OpenAI 发布 CoVal：从众包中学习价值观感知评分标准

OpenAI 发布实验性数据集 CoVal，将价值观敏感的提示词与众包撰写的可审计评分标准配对，记录人们偏好某个模型回复的具体理由而非仅选择结果。CoVal 含保留多元甚至冲突标准的 CoVal-full 和每提示词保留 4 条高评分兼容标准的 CoVal-core 两种形式，其评分可预测样本外人类排名，并揭示 GPT-5 系列模型的行为差异。

OpenAI 为何看好"confessions"：让模型自我坦白以提升诚实性

OpenAI 发布关于 confessions 的新论文与博客，提出训练模型在正常回答之外再输出一份仅以诚实为奖励的"坦白"，以缓解奖励模型被 hack 的问题。在句子字数约束实验中，任务判官检测违规的准确率随训练下降，而使用同一弱判官的 confessions 准确率持续上升并接近 100%。作者认为诚实坦白是"阻力最小路径"，但模型因真实困惑而非故意违规时更难如实坦白。

OpenAI：有帮助的助手特征可抑制涌现性失准

OpenAI 发现，在 GPT-4o base 上对 2M 潜变量 SAE 做激活引导，可让经不良建议微调而涌现性失准的模型重新对齐。这些在微调后激活下降的底部潜变量多与"有帮助的助手"人设相关，且只能单向抑制失准，与既能驱动也能消除失准的失准人设潜变量形成不对称。

OpenAI 推出 Alignment 研究博客，分享早期对齐与安全研究

OpenAI 上线 Alignment 研究博客，以“实验室笔记”形式更频繁、更早地分享对齐与安全研究，包括尚在探索、不足以写成完整论文的想法。内容涵盖递归自我改进（RSI）系统的安全开发与部署、可控性与可审计性，由公司多个团队的研究者撰写。

OpenAI 用稀疏自编码器潜在归因调试模型失准补全

OpenAI 提出用稀疏自编码器（SAE）的潜在归因（latent attribution）方法，替代此前的两步模型对比法，来定位与失准行为因果相关的 SAE 潜在特征。在涌现失准案例中，该方法选出的 top-100 Δ-attribution 潜在特征比 Δ-activation 特征更能通过激活引导让模型远离或走向失准，平均失准变化也更大；研究还用 GPT-5 对引导后的补全打分。

OpenAI 分享 gpt-5-codex 大规模代码验证的实践方法

OpenAI 团队介绍为 gpt-5-codex 和 gpt-5.1-codex-max 训练专用智能体代码审查器的方法，作为纵深防御安全策略中的输出监控手段。

Ilya Sutskever@ilyasutAI 评分6060

Ilya Sutskever 转发 Anthropic 新研究并称其为重要工作。该研究题为 Natural emergent misalignment from reward hacking in production RL，研究模型在训练中对任务作弊的 reward hacking 现象，指出若不加缓解，其后果可能非常严重。