arXiv 论文：Grokking 前已现潜在算法
热点事件持续更新
arXiv 论文：Grokking 前已现潜在算法
1 篇报道1 个报道来源16 小时前更新
先了解这件事
AI 综述
arXiv 新论文对 ReLU MLP 在模运算中的 grokking 机制给出实证结论：模型并非在 grokking 时才发现正确算法，而是训练早期就学到近似二值的方波输入权重，中间值权重只出现在符号变化边界附近，输出权重的傅里叶主相位满足 φ_out = φ_a + φ_b 的相位和关系。 作者称该相位关系在含噪数据训练、模型未能 grokking 时依然成立，说明潜在算法结构先于泛化突变出现。论文由 Anand Swaroop 提交，属实证研究，结论基于其特定实验设定。
AI 根据报道生成 · 2 小时前更新
最新进展10月15日 12:00
ReLU MLP 在模运算中的机制研究：潜在算法结构先于 Grokking 出现报道时间线
沿着报道，了解事件的不同侧面。
10月15日
- arXiv：cs.AIReLU MLP 在模运算中的机制研究：潜在算法结构先于 Grokking 出现
ReLU MLP 在模加法任务上并非在 grokking 时才发现正确算法，而是先学到近二值的方波输入权重、输出权重主导傅里叶相位满足 φ_out = φ_a + φ_b。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。