跳到正文
原文
Hugging Face:Blog(RSS)·· 21 天前AI 评分57

TRL AsyncGRPOTrainer 用 Storage Bucket 跨 HF Jobs 同步 LoRA 适配器,免 NCCL 完成 RL 训练

Async GRPO with LoRA across HF Jobs: a bucket, a proxy, and no NCCL

AI 导读

Hugging Face 博客介绍 TRL v1.14 的 AsyncGRPOTrainer 新支持:只训练 LoRA 适配器并仅同步适配器(rank-1 仅几 MB)到 vLLM,训练器与 vLLM 副本作为独立 HF Jobs 运行在分开的机器上,通过挂载 Storage Bucket 共享适配器路径,无需 NCCL 或共享本地盘。

来源:Hugging Face:Blog(RSS) · huggingface.co