深度神经网络真的严重过拟合了吗？

深度神经网络参数量巨大却仍能泛化，Lilian Weng 从压缩与模型选择角度梳理了相关理论。文章讨论了奥卡姆剃刀、最小描述长度（MDL）原理与 Kolmogorov 复杂度，并补充了 Lottery Ticket Hypothesis 一节。