Modal 验证混合精度采样器可稳定 RL 训练

Modal 在官方工程博客发布研究，验证在混合精度、混合加速器采样器上做强化学习训练能保持稳定且性能不降：让六种加速器（B200/B300 NVFP4、H100/H200 FP8 与 BF16）各自运行自己的 kernel 作为采样器。 Modal 称，其训练完全异步、对陈旧度不设上限，每次更新使用 128 个 prompt、每个 8 条轨迹；在大部分训练过程中，混合采样器每次更新的成本比同构采样器低约 15%。 Modal 还称，在评估从全词表采样时，SC + MIS + top-p 与同样在训练中从全词表采样的 SC + MIS 表现相当。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。