OpenAI 用稀疏自编码器潜在归因调试模型失准补全

OpenAI 提出用稀疏自编码器（SAE）的潜在归因（latent attribution）方法，替代此前的两步模型对比法，来定位与失准行为因果相关的 SAE 潜在特征。在涌现失准案例中，该方法选出的 top-100 Δ-attribution 潜在特征比 Δ-activation 特征更能通过激活引导让模型远离或走向失准，平均失准变化也更大；研究还用 GPT-5 对引导后的补全打分。