Together AI 详解 GPU 集群自动修复系统

Together AI 介绍其 GPU 集群自动修复系统的工作方式：在虚拟机内和宿主机两侧检测 Xid、ECC 双比特错误、PCIe 掉卡和 InfiniBand 链路抖动等故障，再由策略决定修复动作与时机。 该公司称，被动健康检查、修复建议、自动修复策略（含按故障类型和按节点授权）、等待空闲控制、升级阶梯、安全护栏以及 API 和控制台修复已正式可用；基于节点标签的修复契约（可接入 NVSentinel 或自定义控制器等外部检测系统）和宿主机断电重启仍处于预览阶段。需要保证替换窗口的集群可预留热备容量，迁移从该预留容量中取用，而不占用常规可用容量。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。