跳到正文
热点事件持续更新

arXiv 发布 DP-SGD 随机分配子采样权衡函数分析

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

Marten van Dijk 与 Murat Bilgehan Ertan 在 arXiv 发布论文,为基于随机分配的 DP-SGD 子采样推导出紧致的权衡函数闭式上下界。随机分配指每个样本在每个 epoch 被独立分配到 M 个小批次中的恰好一个,每个小批次对应单轮 epoch 内的一次 SGD 轮次。 该分析在显式有效性条件下成立,要求噪声乘子 σ ≥ √(3/ln M)。作者称,与 Poisson 子采样只能给出非闭式隐式公式不同,随机分配可得到透明可解释的闭式界;单轮情况下经 Berry-Esseen 定理导出的界在常数因子内紧致。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月5日
  1. arXiv:cs.LG
    基于随机分配的 DP-SGD 子采样权衡函数:紧致上下界

    研究者为基于随机分配的 DP-SGD 子采样推导出紧致的权衡函数闭式上下界,该分析在显式有效性条件下成立,要求噪声乘子 σ ≥ √(3/ln M)。与 Poisson 子采样只能给出非闭式隐式公式不同,随机分配可得到透明可解释的闭式界,单轮情况下经 Berry-Esseen 定理导出的界在常数因子内紧致。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。