跳到正文
热点事件观察中

Ai2 用 GPU 时间预算替换优先级调度器

1 篇报道1 个报道来源2 天前更新

先了解这件事

AI 综述

Ai2 用 GPU 时间预算、分层公平分配和时间切片契约替换了原有的优先级调度器,把各研究项目该分多少 GPU 时间的争论从逐案运维协调变成透明的行政预算流程。 该集群管理数千块 NVIDIA H100、B200 和 B300 GPU,规模从 88 到 1024 块不等,服务约 150 名内部研究员,而待处理请求对 GPU 的需求常年是可用量的 2-3 倍。 按 Ai2 的说法,用户可将最小运行时间设为零,表示这段时间不分配;此类工作负载始终可被抢占,也不计入任何预算。时间切片下,受保护运行时间上限为 8 小时,超过分配额度的会话可被抢占。Ai2 还称正在其本地存储旁投资一个纯 CPU 集群,用于数据准备类开发会话。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月9日
  1. Hugging Face Blog
    Ai2 如何为 GPU 集群设计高影响力调度系统

    Ai2 用 GPU 时间预算、分层公平分配和时间切片契约替换了原有的优先级调度器,把各研究项目该分多少 GPU 时间的争论从逐案运维协调变成透明的行政预算流程。其集群管理数千块 NVIDIA H100、B200 和 B300 GPU,规模从 88 到 1024 块不等,服务约 150 名内部研究员,而待处理请求对 GPU 的需求常年是可用量的 2-3 倍。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。