跳到正文
热点事件持续更新

研究:优化器选择影响训练数据泄露风险

1 篇报道1 个报道来源21 小时前更新

先了解这件事

AI 综述

一篇 2026 年 10 月发布的 arXiv 论文研究了优化器选择对训练数据重建泄露的影响。作者 Sagi Habani、Yehonathan Refael 和 Ofir Lindenbaum 对比 SGD、Adam、Muon 后称,关键区别在于隐式偏差的权重特异性:SGD 和 Muon 的平稳性条件保留足够权重信息,实践中可重建训练样本,Adam 在 ℓ∞ 隐式偏差机制下仅编码最大坐标及其符号的离散模式。 MNIST 和 CIFAR-10 实验显示,Adam 训练的模型对所评估攻击的抵抗能力持续更强;Muon 训练的模型能以远低于 SGD 的训练成本产生更强重建,但作者称这一优势取决于训练机制和网络架构。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月15日
  1. arXiv:cs.AI
    哪种优化器泄露最多?优化器隐式偏差作为训练数据隐私控制器

    研究对比 SGD、Adam、Muon 三种优化器对训练数据重建泄露的影响,发现关键区别在于隐式偏差的权重特异性。SGD 和 Muon 的平稳性条件保留足够权重信息,可在实践中重建训练样本;Adam 在 ℓ∞ 隐式偏差机制下仅编码最大坐标及其符号的离散模式,MNIST 和 CIFAR-10 实验显示其抗攻击能力持续更强。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。