GrowRL:冻结主干生长新路径做LLM强化学习迁移
热点事件持续更新
GrowRL:冻结主干生长新路径做LLM强化学习迁移
1 篇报道1 个报道来源19 小时前更新
先了解这件事
AI 综述
Haolin Tian等作者发表论文提出GrowRL,一种通过结构生长组织强化学习更新的方法:冻结预训练主干,在每层Transformer新增独立因果注意力分支和前馈网络分支,零初始化输出投影以保持初始策略不变,强化学习只更新新增路径。在五个主干上的实验显示,少量可训练参数即可取得有竞争力的数学推理和分布外性能。 论文还称,学到的路径可迁移到结构兼容的目标模型,在三个迁移方向上仅用10次目标侧更新就接近100次更新的效果。
AI 根据报道生成 · 2 小时前更新
最新进展10月15日 12:00
GrowRL:为 LLM 强化学习生长与迁移计算路径报道时间线
沿着报道,了解事件的不同侧面。
10月15日
- arXiv:cs.AIGrowRL:为 LLM 强化学习生长与迁移计算路径
GrowRL 提出一种通过结构生长组织强化学习更新的方法,冻结预训练主干,在每层 Transformer 新增独立因果注意力分支和前馈网络分支,零初始化输出投影保持初始策略不变,RL 只更新新增路径。在五个主干上的实验显示,少量可训练参数即可取得有竞争力的数学推理和分布外性能,学到的路径可迁移到结构兼容的目标模型,且在三个迁移方向上仅 10 次目标侧更新就接近 100 次的效果。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。