GPUDirect Storage: когда GPU ждёт не ядра, а диск
GPUDirect Storage: когда GPU ждёт не ядра, а диск Длинный прогон на NVIDIA-железе иногда тормозит не моделью, а тем, что каждый кусок датасета с диска прогоняют через центральный процессор. GPUDirect Storage как раз про обход этого узла: прямой маршрут между хранилищем и видеокартой, меньше копий и меньше простоя ядра. NVIDIA описала, как проверить платформу и настроить GDS у себя или в облаке — переносимый путь данных под разные фреймворки, не разовый хак под одну стойку. В открытых фрагментах гайда команд почти нет, зато видна логика маршрута. Для тех, кто держит обучение и вывод модели на своём сервере, это скорее чеклист совместимости «диск — GPU — ОС», чем очередная настройка весов.
10 просмотров