研究提出用互信息度量模型学到的等变性

Claire Schlesinger 等作者发表论文，提出一种测量模型所学等变性的信息论方法。论文称，在有限离散设定下，等变性要求原始输入与变换输入的表示能互相精确确定，据此给出基于归一化互信息（NMI）的检验；针对高维激活，采用 centered kernel alignment（CKA）作为可扩展检验，并对正交特征变换给出精确保证。 跨架构与任务实验显示，数据增强通常提升变换一致性。作者据此表示，可直接从表示探测学到的等变性，无需还原隐藏的变换规则。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。