跳到正文
Hugging Face Blog·· 1 天前AI 评分57

Ai2 详解 GPU 集群调度实践:用时间预算与分层共享解决算力争抢

Impactful scheduling for GPU clusters

AI 导读

Ai2 基础设施团队重构了面向大规模分布式训练的 GPU 集群调度架构,通过引入 GPU 时间预算、分层公平共享算法与时间片契约取代原有的纯优先级调度。新方案在保持 98% 集群占用率的同时,将调试任务的 p90 排队时间从 2 小时缩短至 30 秒,并使人工介入的机器维护事件减少了 74%。此外,调度契约通过要求任务声明受保护的最短运行时间,有效遏制了空挂占座与优先级通胀现象。

来源:Hugging Face Blog · huggingface.co