Two Clocks 框架研究 RLVR 大批量训练
热点事件持续更新
Two Clocks 框架研究 RLVR 大批量训练
1 篇报道1 个报道来源16 小时前更新
先了解这件事
报道摘要
针对 RLVR 中扩大 rollout batch 配合平方根学习率缩放的做法，研究提出"两时钟"框架区分"产生进展所需样本"与"崩溃前消耗样本"，认为平方根规则只保住一阶漂移而保不住进展，存在依赖学习率的临界 batch。
摘自 arXiv：cs.AI
最新进展10月15日 12:00
两时钟：为什么 RLVR 中更大的 rollout batch 学得更慢却会按时失败报道时间线
沿着报道，了解事件的不同侧面。
10月15日
- arXiv：cs.AI两时钟：为什么 RLVR 中更大的 rollout batch 学得更慢却会按时失败
针对 RLVR 中扩大 rollout batch 配合平方根学习率缩放的做法，研究提出"两时钟"框架区分"产生进展所需样本"与"崩溃前消耗样本"，认为平方根规则只保住一阶漂移而保不住进展，存在依赖学习率的临界 batch。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。