论文提概率签名解释网络模加学习

Yunji Wang 等作者提交的一篇预印本论文提出用“概率签名”解释两层网络在模加任务中为何会自发形成傅里叶结构化表示。论文称，这些签名是循环移位算子，经离散傅里叶变换对角化后得到近似解耦的傅里叶模态动力学，从而说明傅里叶稀疏性、频率匹配与相位对齐的出现。论文已投稿 ICLR 2027。 该框架还解释了一个现象：标签噪声下，受损样本的早期损失下降快于干净样本。作者称，原因是噪声增加了条件标签碰撞，强化了早期的共享坐标。 作者表示，该方法可推广至其他算子，并在 XOR 实验中观测到预测频率。以上均为论文作者在预印本中的主张。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。