跳到正文
原文
Lilian Weng:Lil'Log(RSS)·· 2022-09-09AI 评分43

神经网络切线核(NTK)背后的数学原理详解

Some Math behind Neural Tangent Kernel

AI 导读

神经网络切线核(NTK)是一种通过梯度下降解释神经网络训练演化过程的核方法,可说明足够宽的神经网络在最小化经验损失时为何能稳定收敛到全局最小值。该文深入剖析 NTK 的动机与定义,并证明无限宽神经网络在不同初始化下均能确定性收敛。

来源:Lilian Weng:Lil'Log(RSS) · lilianweng.github.io