NeurIPS 2026 论文分析 CAA 失效原因

Seyedarmin Azizi 等作者发布的论文提出用"steering Hessian"分析激活引导向量的几何结构，发现其顶部特征向量是尖锐方向，微小扰动即导致模型行为剧烈波动。 论文称，这些尖锐方向仅占 CAA（对比激活添加）向量平方范数的 1% 至 5%，却足以让行为反向，这解释了 CAA 为何容易失效。 论文同时提出 sharp removal 方法，作为针对上述问题的处理方案。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。