Ai2 用GPU时间预算与公平共享改造集群调度

Ai2 AI 基础设施团队发布工程复盘，称用 GPU 时间预算、分层公平共享和时间切片契约取代原有基于优先级的调度器，以减少资源抢占、占坑和优先级膨胀。 其管理的集群由数千块 NVIDIA H100、B200、B300 组成，规模从 88 到 1024 块 GPU。30 天测试期内，各团队获得应分配 GPU 时间的 98%，集群占用率在改动前后保持 98%（期间需求超出容量 2-3 倍），需人工介入的维修减少 74%；最大 H100 集群的中位排队时间从 5 分钟降至 24 秒。 材料同时说明，交互式会话的受保护运行时间上限为 8 小时，容量碎片化对大型任务的影响仍在模拟器与生产环境中测量。

AI 根据报道生成 · 35 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。