AI资讯
Ai2 用 GPU 时间预算替代优先级调度器:集群占用率维持 98%,调试任务 p90 排队从 2 小时降到 30 秒
Ai2 的 AI Infrastructure 团队发文介绍其 GPU 集群调度系统的改造:把原先基于优先级的调度器,换成由 GPU 时间预算、层级 fair-share 分配和时间切片契约组成的系统。Ai2 管理数千块 NVIDIA…
标签
共 1 篇资讯
Ai2 的 AI Infrastructure 团队发文介绍其 GPU 集群调度系统的改造:把原先基于优先级的调度器,换成由 GPU 时间预算、层级 fair-share 分配和时间切片契约组成的系统。Ai2 管理数千块 NVIDIA…