线性注意力Transformer可精确复现因果发现单步更新

研究者构造了一个固定权重的Transformer，其前向传播可精确复现连续因果发现方法的一次图更新，堆叠模块后能重现整个优化轨迹。论文称，精确执行该更新还需在更新间保留算法乘子。 实验显示，该模块与参考更新在浮点精度内一致，并在合成数据及七个公开基准网络拓扑上复现了参考求解器的成功与失败。作为对照，普通注意力模型在相同训练预算下无法可靠执行该更新，也无法迁移到更大图。 该论文由Amartya Roy与Sayar Karmakar发表，2026年10月8日发布于arXiv的cs.LG分类。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。