跳到正文
热点事件持续更新

arXiv 论文提出多项式激活网络构造

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Xiuyi Yang 在 arXiv 发布论文,提出一种多项式激活网络构造:激活函数为 f(z) = z + λz³,经截断并投影到单位球面,另加一条未归一化的恒等路径,作者称同一构造在两种规模下给出答案。 作为深层堆叠,该构造在 MNIST 上不使用任何归一化机制即可训练到 100 层;作为小模型,其平方损失是可精确求解的多项式系统,作者称小规模结果反过来规定了该堆叠的设计、初始化与训练方式。 论文提出的损失曲面结论用于指导网络设计、初始化与训练,均属作者在论文摘要中的表述。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv:cs.LG
    多项式激活函数的损失曲面如何指导网络设计、初始化与训练

    研究提出多项式激活 f(z) = z + λz³(经截断并投影到单位球面)加一条未归一化的恒等路径,同一构造在两种规模下作答:作为深层堆叠,它在 MNIST 上无任何归一化机制即可训练到 100 层;作为小模型,其平方损失是可精确求解的多项式系统,小规模结果反过来规定了该堆叠的设计、初始化与训练方式。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。