跳到正文
热点事件持续更新

随机特征网络弱到强泛化理论获新进展

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

一项新研究在两层随机特征网络中发现,当模型强度由宽度决定时,用弱教师模型标签训练的强学生模型可实现二次弱到强泛化,学生误差为教师误差的平方。 该结果在ReLU激活和纯球谐目标下,基于高斯普适性假设得到,研究称其达到Medvedev等人(2025)的通用下界。论文还刻画了更一般停止时间和多谐波阶目标下二次、非二次与无改进之间的转变。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月8日
  1. arXiv:cs.LG
    随机特征网络中的二次弱到强泛化:基于随机矩阵理论的分析

    研究在两层随机特征网络中发现,当模型强度由宽度决定时,用弱教师模型标签训练的强学生模型可实现二次弱到强泛化:学生误差为教师误差的平方。在 ReLU 激活和纯球谐目标下,基于高斯普适性假设得到该渐进结果,达到 Medvedev 等人(2025)的通用下界。研究还刻画了更一般停止时间和多谐波阶目标下二次、非二次与无改进之间的转变。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。