深度线性网络训练问题获精确凸重构

研究者 Karthik Prakhya 和 Alp Yurtsever 发表论文称，平方损失下深度线性神经网络的训练问题可在一个广义完全正锥上的提升空间中做精确凸重构，重构后的最优值与原非凸问题相同，且在提升变量上是线性的，所有非凸性都编码在锥约束中。 该构造将多层参数化归约为双线性分解，再提升为秩约束半定规划，为线性因子分解诱导的非凸性给出锥表示。其提升维度仅取决于输入输出维度，与网络深度和数据量无关；瓶颈宽度只通过标量约束进入。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。