热点事件持续更新
MoRA：MoE 专家剪枝框架提出
1 篇报道1 个报道来源13 小时前更新
先了解这件事
AI 综述
2026年10月3日，arXiv cs.LG 分类发布研究，提出结构化 MoE 专家剪枝框架 MoRA。该框架为每个专家引入可学习路由器偏置，通过最小化语言建模损失和路由多样性正则项进行优化，并加入专家近似机制，用剩余专家以仿射变换逼近被剪枝专家的输出。研究在 Qwen3-30B-A3B、DeepSeek-V2-Lite 和 Moonlight-16B-A3B 上每层移除 25% 和 50% 路由专家，在九个零样本基准测试中优于现有剪枝算法，代码将开源。目前进展为论文发布，尚未见后续报道。
AI 根据报道生成 · 1 小时前更新
最新进展10月3日 12:00
MoRA 框架论文发布，在多个 MoE 模型剪枝实验中优于现有算法。报道时间线
沿着报道，了解事件的不同侧面。
10月3日
- arXiv：cs.LG（机器学习，全量分类）MoRA：通过路由器偏置学习与专家近似实现 MoE 剪枝
研究者提出结构化 MoE 专家剪枝框架 MoRA，为每个专家引入可学习路由器偏置，通过最小化语言建模损失和路由多样性正则项来优化，并加入专家近似机制用剩余专家以仿射变换逼近被剪枝专家的输出。在 Qwen3-30B-A3B、DeepSeek-V2-Lite 和 Moonlight-16B-A3B 上每层移除 25% 和 50% 路由专家，九个零样本基准测试中优于现有剪枝算法，代码将开源。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。