热点事件持续更新
FedMIX-P 联邦学习预条件器训练方法
1 篇报道1 个报道来源13 小时前更新
先了解这件事
AI 综述
2026年10月3日，arXiv cs.LG 分类发布论文提出 FedMIX-P，一种用于联邦视觉与语言模型训练的混合局部与全局预条件器方法。该方法在联邦学习的每个本地步骤中混合共享与局部预条件器，将均方算子失配降低 λ² 倍；在随机梯度和部分参与下取得 O(R^{-1/2}) 的稳定性界，且不要求局部预条件器相互收敛。在 SOAP、Sophia 和 Muon 变体上的视觉与语言任务实验中，精度最高提升 19.47 个百分点，60M–350M 语言模型验证损失更低。目前该工作以预印本形式发布，尚无后续进展报道。
AI 根据报道生成 · 1 小时前更新
最新进展10月3日 12:00
arXiv 发布 FedMIX-P，混合预条件器使精度最高提升 19.47 个百分点。报道时间线
沿着报道，了解事件的不同侧面。
10月3日
- arXiv：cs.LG（机器学习，全量分类）FedMIX-P：混合局部与全局预条件器的联邦视觉与语言模型训练
FedMIX-P 在联邦学习的每个本地步骤中混合共享与局部预条件器，将均方算子失配降低 λ² 倍。该方法在随机梯度和部分参与下取得 O(R^{-1/2}) 的稳定性界，且不要求局部预条件器相互收敛。在 SOAP、Sophia 和 Muon 变体上的视觉与语言任务实验中，精度最高提升 19.47 个百分点，60M–350M 语言模型验证损失更低。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。