热点事件持续更新
FedFit:联邦微调LLM新框架
1 篇报道1 个报道来源13 小时前更新
先了解这件事
AI 综述
2026年10月3日,arXiv cs.LG 分类发布论文《FedFit:通过向量库参数化与量化实现 LLM 联邦微调》。该研究提出一种联邦微调框架,通过不相交共享向量库参数化重建高维适配器矩阵,并采用交替优化调度,以解决 LoRA 在联邦学习中的聚合困境。方法结合分块量化与客户端误差反馈压缩传输向量。在 Qwen2.5 模型上的实验显示,其困惑度与标准联邦 LoRA 方法相当,压缩比最高提升 100 倍。目前该工作以预印本形式公开,尚无后续进展报道。
AI 根据报道生成 · 1 小时前更新
最新进展10月3日 12:00
FedFit 预印本公开,称压缩比最高提升100倍且困惑度与联邦LoRA相当。报道时间线
沿着报道,了解事件的不同侧面。
10月3日
- arXiv:cs.LG(机器学习,全量分类)FedFit:通过向量库参数化与量化实现 LLM 联邦微调
FedFit 提出一种联邦微调框架,通过不相交共享向量库参数化重建高维适配器矩阵,并用交替优化调度解决 LoRA 在联邦学习中的聚合困境。该方法结合分块量化与客户端误差反馈压缩传输向量,在 Qwen2.5 模型上困惑度与标准联邦 LoRA 方法相当,压缩比最高提升 100 倍。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。