无需已知平滑常数的自适应方差缩减优化方法

Wei Jiang、Yibo Wang、Zechao Li 提交论文，提出一种两阶段方法，在未知平滑常数和方差界的情况下，让单一算法同时适配平均平滑、标准平滑与无噪声三种设定。 在给定梯度预算 T 时，该方法的收敛率分别为平均平滑 O(T^{-1/3})、标准平滑 O(T^{-1/4})、无噪声 O(T^{-1/2})；针对 T 未知的情形，另提出双路径方法，在随机设定下以对数因子达到对应速率。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。