MFT：不改权重、学习掩码的微调新范式
热点事件持续更新
MFT：不改权重、学习掩码的微调新范式
2 篇报道1 个报道来源5 小时前更新
先了解这件事
AI 综述
研究者Mingyuan Zhang等人提出Mask Fine-Tuning（MFT），一种不更新模型权重的LLM微调范式：通过学习并应用二值掩码提升模型性能。 在LLaMA2-7B和LLaMA3.1-8B上，MFT使用相同微调数据集在IFEval上分别获得平均2.70和4.15的提升，跨领域与不同骨干模型均保持一致增益。研究者称该方法可与其他LLM优化流程兼容，并将掩码操作从网络剪枝拓展到更广泛的模型能力范畴。 同一批作者另有一篇论文将MFT用于视觉语言模型（VLM）：不改动VLM主干权重，以掩码选择性路由预训练连接，替代FFT与PEFT，在多个视觉语言基准上取得更优性能，不新增知识、不改变部署架构。
AI 根据报道生成 · 27 分钟前更新
最新进展10月7日 12:00
重新思考微调：Mask Fine-Tuning（MFT）无需改动权重即可释放视觉语言模型隐藏能力报道时间线
沿着报道，了解事件的不同侧面。
10月7日
- arXiv：cs.LG重新思考微调：Mask Fine-Tuning（MFT）无需改动权重即可释放视觉语言模型隐藏能力
研究者提出 Mask Fine-Tuning（MFT），一种不改动 VLM 主干权重、通过掩码选择性路由预训练连接的结构化适配方法，替代 FFT 与 PEFT。在多个视觉语言基准上，MFT 持续取得更优性能，且不新增知识、不改变部署架构。该工作还揭示预训练 VLM 在适配过程中内部表征路径的重组方式。
- arXiv：cs.LGMask Fine-Tuning：通过二值掩码微调提升大语言模型性能
研究者提出 Mask Fine-Tuning（MFT），一种在不更新模型权重的前提下，通过学习并应用二值掩码来提升 LLM 性能的微调新范式。在 LLaMA2-7B/3.1-8B 上，MFT 使用相同微调数据集在 IFEval 上实现平均 2.70/4.15 的提升，且跨领域与骨干模型保持一致增益。该方法可与其他 LLM 优化流程兼容，并将掩码操作从网络剪枝拓展到更广泛的模型能力范畴。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。