Когда диск не успевает за GPU: GPUDirect Storage и Python
Когда диск не успевает за GPU: GPUDirect Storage и Python Ускоритель простаивает не из‑за математики, а потому что данные ещё едут с диска. На масштабах, где батч уже не живёт в оперативке, задержка от хранилища до видеопамяти съедает те же часы, что отводили на эпоху. Stanford AI Index 2025 в связке с темой называет другой ритм: обучающие корпуса для крупных моделей раздуваются примерно вдвое каждые восемь месяцев. NVIDIA показала, как читать в память видеокарты из Python через GPUDirect Storage, минуя лишний проход через процессор, когда обычный ввод-вывод не догоняет железо. Конфиги и шаги в Python — в гайде на Developer Blog; имеет смысл открыть, если дисковый канал уже спорит с загрузкой видеокарты.
5 просмотров