🔬 Ai2 перестроила планировщик GPU: ожидание упало с 2 часов до 30 секунд
🔬 Ai2 перестроила планировщик GPU: ожидание упало с 2 часов до 30 секунд В Ai2 заменили приоритетный планировщик GPU на систему с бюджетами и справедливым распределением. Для исследователей, делящих одни GPU, это разница между простоем и работой. Что показал 30-дневный тест: • команды получили 98% положенных GPU-часов • 13 из 15 аллокаций — 95% и больше, худший случай 90% • на крупнейшем кластере H100 медианное ожидание упало с 5 минут до 24 секунд, p90 — с 2,8 до 1,8 часа • p90 ожидания для отладки — с 2 часов до 30 секунд GPU — это чипы вроде NVIDIA H100, B200 и B300; в кластерах Ai2 их от 88 до 1024, на каждый час претендуют 2–3 задачи. По данным Ai2, тест пройден, но это результат одной организации, не гарантия для других. 🔹 Первый Нейронный