Ai2 用 GPU 时间预算替换优先级调度器
热点事件观察中
Ai2 用 GPU 时间预算替换优先级调度器
1 篇报道1 个报道来源2 天前更新
先了解这件事
AI 综述
Ai2 用 GPU 时间预算、分层公平分配和时间切片契约替换了原有的优先级调度器,把各研究项目该分多少 GPU 时间的争论从逐案运维协调变成透明的行政预算流程。 该集群管理数千块 NVIDIA H100、B200 和 B300 GPU,规模从 88 到 1024 块不等,服务约 150 名内部研究员,而待处理请求对 GPU 的需求常年是可用量的 2-3 倍。 按 Ai2 的说法,用户可将最小运行时间设为零,表示这段时间不分配;此类工作负载始终可被抢占,也不计入任何预算。时间切片下,受保护运行时间上限为 8 小时,超过分配额度的会话可被抢占。Ai2 还称正在其本地存储旁投资一个纯 CPU 集群,用于数据准备类开发会话。
AI 根据报道生成 · 2 小时前更新
最新进展10月9日 23:20
Ai2 如何为 GPU 集群设计高影响力调度系统报道时间线
沿着报道,了解事件的不同侧面。
10月9日
- Hugging Face BlogAi2 如何为 GPU 集群设计高影响力调度系统
Ai2 用 GPU 时间预算、分层公平分配和时间切片契约替换了原有的优先级调度器,把各研究项目该分多少 GPU 时间的争论从逐案运维协调变成透明的行政预算流程。其集群管理数千块 NVIDIA H100、B200 和 B300 GPU,规模从 88 到 1024 块不等,服务约 150 名内部研究员,而待处理请求对 GPU 的需求常年是可用量的 2-3 倍。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。