arXiv:cs.LG(机器学习,全量分类)· Zhiwei Zhang, Huayu Deng, Fei Zhao, Jiayan Fu, Bin Liang, Kam-Fai Wong, Mu Chuan·· 1 天前AI 评分37
ROSS:通过选择性监督从自生成 rollout 中再学习
ROSS: Relearning from Self-Generated Rollouts through Selective Supervision
AI 导读
ROSS 通过保留完整历史轨迹作为上下文、仅对选定的模型生成续写施加损失,让自生成 rollout 中的可复用行为经验通过离线 SFT 继续产生收益,无需额外策略 rollout。
来源:arXiv:cs.LG(机器学习,全量分类) · arxiv.org