研究：语言模型潜结构操控需三因素齐备

Or Shafran 与 Mor Geva 提交的论文将语言模型潜结构的因果影响力拆为容量、响应性与对齐三个因素，在 4 个模型家族、50 个概念上验证三者需同时高才能有效干预：容量或响应性偏低分别使因果效果下降 84% 和 95%，对齐偏低则会反转效果、抑制概念表达。 研究称，因果有效方向在不同上下文中构成变化的低维子空间；将线性探针训练限制在该子空间后，跨模型操控效果提升 17%-118%，概念检测仅下降 3%。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。