神经网络最小宽度与实射影空间浸入挂钩

研究者 Chu 与 Weinkove 证明：对连续单调激活函数的深度神经网络，若实射影空间 RP^{n-1} 可光滑浸入 R^n，则网络逼近 R^n 到 R^m 的连续函数所需最小宽度至少为 n+min{n,m}。该结论将网络宽度下界与微分拓扑中的浸入问题联系起来。 由此，当 n 为 2、3、4、7 或 8 且 1≤m≤n 时，ReLU 网络的最小宽度为 n+m，这一结果扩展了 Hanin-Sellke 与 Hwang 的已有结果。论文发表于 arXiv 的 cs.LG 分类。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。