信息论框架预计算DP-SGD重建误差下界

研究者提出一个信息论框架，可在训练前计算差分隐私随机梯度下降（DP-SGD）模型的重建误差下界，即便攻击者掌握参数轨迹、其余训练记录和总体分布，该下界依然成立。 该框架用条件互信息衡量训练泄露、用源熵衡量数据分布本身的不确定性，经率失真理论合成为重建攻击的期望误差下界；对 DP-SGD 而言，泄露上界仅取决于采样率与噪声乘子。 作者在像素空间和 LPIPS 特征空间实例化该框架，称得到首个直接以 LPIPS 度量的重建失真下界。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。