跳到正文
热点事件持续更新

重尾噪声下去中心化 SGD 获最优收敛率

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

研究者证明,在光滑非凸目标、噪声满足 p∈(1,2] 有界 p 阶矩的重尾条件下,裁剪去中心化 SGD(clipped DSGD)能同时以高概率和期望意义达到阶最优收敛率,并实现智能体数量的线性加速。关键分析表明,裁剪结构可将共识差距引发的网络效应降为高阶项。 研究同时指出,归一化 DSGD 在此设定下可能不收敛,而裁剪保留了梯度幅度信息,因此能保证收敛。该结论基于理论证明,论文发布在 arXiv cs.LG(2026-10-08)。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月8日
  1. arXiv:cs.LG
    重尾噪声下的去中心化 SGD:最优收敛率与梯度裁剪的作用

    针对重尾噪声下去中心化优化能否达到最优收敛率的问题,研究者证明裁剪去中心化 SGD(clipped DSGD)在光滑非凸目标、$p \in (1,2]$ 有界 p 阶矩噪声下,同时以高概率和期望意义达到阶最优收敛率,并实现智能体数量的线性加速。技术关键在于利用裁剪结构对共识差距的精细分析,将网络效应降为高阶项;与归一化 DSGD 可能不收敛不同,裁剪保留幅度信息,从而保证收敛性。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。