OpenAI 披露 GPT-5.6 起部署的激活分类器

OpenAI 发布对齐研究博客，介绍自 GPT-5.6 起在所有助手补全上部署的激活分类器（probes），作为纵深防御的新一层监控。OpenAI 称，该分类器已用于其最强模型的内部与外部流量。 据 OpenAI 介绍，probes 基于 Attention probe 的 MLP + QV-attention 架构和指数移动平均，可流式拦截违规回复，比更大的文本分类器更抗越狱且运行更高效，准确率随模型能力提升；但它依赖标注数据，更换预训练底座需重新训练。 OpenAI 说明，博客中的图表来自多项内部实验，不一定代表已部署分类器的表现。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。