mHC迁移至冻结主干微调研究
热点事件持续更新
mHC迁移至冻结主干微调研究
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
Valentijn Oldenburg等作者将原本用于预训练的流形约束超连接（mHC）迁移到冻结主干的参数高效微调，把Transformer改造成输入依赖的多流残差架构，在各子层之间路由表示，论文发表于NeurIPS 2026 AXIOM高效深度学习基础workshop。 结果显示动态残差路由能够完成微调，但作用与预训练场景不同：保留流混合、只学习子层如何访问各流，可同时改善损失并减少可训练参数。
AI 根据报道生成 · 1 小时前更新
最新进展10月8日 12:00
流形约束超连接（mHC）用于参数高效微调，冻结主干下动态残差路由报道时间线
沿着报道，了解事件的不同侧面。
10月8日
- arXiv：cs.LG流形约束超连接（mHC）用于参数高效微调，冻结主干下动态残差路由
研究者将原本用于预训练的流形约束超连接（mHC）迁移到冻结主干的微调场景，把 Transformer 变为输入依赖的多流残差架构，在每个子层间路由表示。结果显示动态残差路由能完成微调，但作用与预训练不同：保留流混合、仅学习子层如何访问各流，可同时改善损失并减少可训练参数。该工作发表于 NeurIPS 2026 AXIOM 高效深度学习基础 workshop。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。