Ai2 убрала бесплатный HIGH priority: бюджеты GPU-времени и fair-share
Ai2 убрала бесплатный HIGH priority: бюджеты GPU-времени и fair-share Если у вас общая очередь на ускорители и каждый сабмит с максимальным приоритетом — вы не ускоряетесь, вы добавляете шум. У исследовательского института Ai2 так крутились тысячи карт: пустой процесс держал слот, а перед ремонтом хоста дежурные вручную снимали недельные обучения. Команда перешла на бюджеты времени по дереву проектов вместо бесплатного приоритета. Держать ускоритель без нагрузки теперь жжёт ту же квоту, что полезный тренинг — выгоднее попросить часы на ревью, чем прятать простой. В блоге эффект оценивают примерно в лишние 30% мощности: простой в одном окне можно отыграть всплеском позже, без новых плат.
8 просмотров