随机特征网络弱到强泛化理论获新进展
热点事件持续更新
随机特征网络弱到强泛化理论获新进展
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
一项新研究在两层随机特征网络中发现,当模型强度由宽度决定时,用弱教师模型标签训练的强学生模型可实现二次弱到强泛化,学生误差为教师误差的平方。 该结果在ReLU激活和纯球谐目标下,基于高斯普适性假设得到,研究称其达到Medvedev等人(2025)的通用下界。论文还刻画了更一般停止时间和多谐波阶目标下二次、非二次与无改进之间的转变。
AI 根据报道生成 · 2 小时前更新
最新进展10月8日 12:00
随机特征网络中的二次弱到强泛化:基于随机矩阵理论的分析报道时间线
沿着报道,了解事件的不同侧面。
10月8日
- arXiv:cs.LG随机特征网络中的二次弱到强泛化:基于随机矩阵理论的分析
研究在两层随机特征网络中发现,当模型强度由宽度决定时,用弱教师模型标签训练的强学生模型可实现二次弱到强泛化:学生误差为教师误差的平方。在 ReLU 激活和纯球谐目标下,基于高斯普适性假设得到该渐进结果,达到 Medvedev 等人(2025)的通用下界。研究还刻画了更一般停止时间和多谐波阶目标下二次、非二次与无改进之间的转变。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。