跳到正文
热点事件持续更新

Dropout神经网络逼近性质研究

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Jia-He Yao 发表论文,研究以保留概率 p 随机保留边的 ReLU 网络对 Sobolev 空间 W^{n,∞}([0,1]^d) 单位球的逼近。论文构造出常数深度、规模为 Õ_{n,d}(p^{-9}ε^{-max{d/n,2}}log(1/δ)) 的网络,单次采样网络以至少 1-δ 概率成立。 该结果为 Dropout 网络的逼近能力给出了随保留概率 p 变化的规模上界,p 越小所需网络规模越大。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月5日
  1. arXiv:cs.LG
    Dropout 神经网络的逼近性质:Sobolev 速率与置信界

    研究以保留概率 p 随机保留边的 ReLU 网络对 W^{n,∞}([0,1]^d) 单位球的逼近,构造出常数深度、规模为 Õ_{n,d}(p^{-9}ε^{-max{d/n,2}}log(1/δ)) 的网络,单次采样网络以至少 1-δ 概率成立。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。