OpenAI：有帮助的助手特征可抑制涌现性失准

OpenAI 发现，在 GPT-4o base 上对 2M 潜变量 SAE 做激活引导，可让经不良建议微调而涌现性失准的模型重新对齐。这些在微调后激活下降的底部潜变量多与"有帮助的助手"人设相关，且只能单向抑制失准，与既能驱动也能消除失准的失准人设潜变量形成不对称。