Prime Intellect(网页)·· 12 小时前AI 评分52
Prime Intellect 开源 OpenDiLoCo 分布式低通信训练框架,并将 DiLoCo 扩展至 1.1B 参数模型
AnnouncementsJUL 11TH, 2024OpenDiLoCo: An Open-Source Framework for Globally Distributed Low-Communication Training
AI 导读
Prime Intellect 发布 OpenDiLoCo,一个对 DeepMind DiLoCo 方法的开源实现与扩展,代码见 https://github.com/PrimeIntellect-ai/OpenDiLoCo,论文见 https://arxiv.org/abs/2407.07852。
来源:Prime Intellect(网页) · primeintellect.ai