跳到正文
原文
Hugging Face:Blog(RSS)·· 2026-08-18AI 评分33

同一集群利用率提升 33 个百分点:约束感知 GPU 分配器如何改变分配顺序

Same Cluster, 33 Points More Utilization: What Changed Was the Order

AI 导读

一个约束感知 GPU 分配器在相同硬件与负载下,相比 FIFO 调度器将 GPU 利用率最多提升 33 个百分点,优先级加权产出在全部场景中上升,最高增幅 105%。在五个真实争用场景中,利用率从 52–85% 提升至 72–88%,优先级加权价值平均增长 52%。该分配器把实时推理需求当作随时步变化的曲线而非全天峰值预留,并按优先级在整个调度周期内放置批式任务。

来源:Hugging Face:Blog(RSS) · huggingface.co