跳到正文
原文
Prime Intellect(网页)·· 12 小时前AI 评分52

Prime Intellect 开源 OpenDiLoCo 分布式低通信训练框架,并将 DiLoCo 扩展至 1.1B 参数模型

AnnouncementsJUL 11TH, 2024OpenDiLoCo: An Open-Source Framework for Globally Distributed Low-Communication Training

AI 导读

Prime Intellect 发布 OpenDiLoCo,一个对 DeepMind DiLoCo 方法的开源实现与扩展,代码见 https://github.com/PrimeIntellect-ai/OpenDiLoCo,论文见 https://arxiv.org/abs/2407.07852。

来源:Prime Intellect(网页) · primeintellect.ai