苹果提出Stepped MoE可切换1B至4B参数
热点事件持续更新
苹果提出Stepped MoE可切换1B至4B参数
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
苹果 Foundation Models 团队发表论文提出 Stepped MoE 框架，将弹性结构与稀疏门控架构结合，使单个模型可在 1B、2B、3B、4B 参数间灵活切换。作者 Arnav Kundu 等称，在知识密集型基准上，该模型比同规模稠密模型准确率高 2-5%，延迟与稠密模型相当，并通过共享参数节省设备磁盘空间，便于按 DRAM 与算力条件部署。这些结论来自论文自述的实验，尚待独立验证。
AI 根据报道生成 · 2 小时前更新
最新进展10月7日 12:00
苹果提出 Stepped MoE：段级路由实现可配置推理复杂度报道时间线
沿着报道，了解事件的不同侧面。
10月7日
- arXiv：cs.LG苹果提出 Stepped MoE：段级路由实现可配置推理复杂度
苹果 Foundation Models 团队提出 Stepped MoE，将弹性结构与稀疏门控架构统一，让单个模型可在 1B、2B、3B、4B 参数间灵活切换。在知识密集型基准上，该模型比同规模稠密模型准确率高 2-5%，延迟与稠密模型相当，且通过共享参数节省设备磁盘空间，适配边缘推理的 DRAM 与算力限制。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。