SHAP归因SAE特征因果忠实性的检验

Samuel Xie 和 Noura Al-Moubayed 提交论文，用直接因果干预检验 SHAP 对稀疏自编码器（SAE）潜在特征的归因是否忠实。测试台为 SST-2 情感分类、GPT-2 Small 和 32768 特征的第七层 SAE，将 SHAP 与 Integrated Gradients、Gradient×Input 及探针权重基线对比，以特征消融和激活引导经语言模型自身 logit difference 打分。 结果显示：多数忠实性关联未通过多重比较校正；彼此高度一致的归因方法（ρ=0.42–0.80）与实测因果效应吻合很差，作者据此认为方法间一致性不构成因果忠实的证据。 在已知真值的最小对比中，归因能识别插入的情感信号（AUROC 0.792），却无法定位删除（AUROC 0.520）。论文称将投稿至 International Journal of Secondary Computing and Applications Research。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。