网络宽度与贪心逐层训练研究进展

2026年10月3日，arXiv cs.LG 发布一项机器学习研究，探讨网络宽度对贪心逐层训练与端到端反向传播在自监督学习中表现差异的影响。研究发现，在卷积网络的自监督学习中，网络越宽，端到端反向传播相对贪心逐层训练的优势越小；在较浅且极宽的网络中，贪心逐层训练甚至取得更高性能。对表征的分析显示，极宽贪心训练网络的表征几何结构优于端到端反向传播训练的模型，表明宽度可补偿受限的信用分配。目前该研究以预印本形式发布，尚无后续报道。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。