研究:优化器选择影响训练数据泄露风险
热点事件持续更新
研究:优化器选择影响训练数据泄露风险
1 篇报道1 个报道来源21 小时前更新
先了解这件事
AI 综述
一篇 2026 年 10 月发布的 arXiv 论文研究了优化器选择对训练数据重建泄露的影响。作者 Sagi Habani、Yehonathan Refael 和 Ofir Lindenbaum 对比 SGD、Adam、Muon 后称,关键区别在于隐式偏差的权重特异性:SGD 和 Muon 的平稳性条件保留足够权重信息,实践中可重建训练样本,Adam 在 ℓ∞ 隐式偏差机制下仅编码最大坐标及其符号的离散模式。 MNIST 和 CIFAR-10 实验显示,Adam 训练的模型对所评估攻击的抵抗能力持续更强;Muon 训练的模型能以远低于 SGD 的训练成本产生更强重建,但作者称这一优势取决于训练机制和网络架构。
AI 根据报道生成 · 1 小时前更新
最新进展10月15日 12:00
哪种优化器泄露最多?优化器隐式偏差作为训练数据隐私控制器报道时间线
沿着报道,了解事件的不同侧面。
10月15日
- arXiv:cs.AI哪种优化器泄露最多?优化器隐式偏差作为训练数据隐私控制器
研究对比 SGD、Adam、Muon 三种优化器对训练数据重建泄露的影响,发现关键区别在于隐式偏差的权重特异性。SGD 和 Muon 的平稳性条件保留足够权重信息,可在实践中重建训练样本;Adam 在 ℓ∞ 隐式偏差机制下仅编码最大坐标及其符号的离散模式,MNIST 和 CIFAR-10 实验显示其抗攻击能力持续更强。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。