AI-фабрики NVIDIA: один контур на сотни тысяч GPU и недельные прогоны
AI-фабрики NVIDIA: один контур на сотни тысяч GPU и недельные прогоны Сотни тысяч видеокарт на одной площадке — и один сбой в планировщике валит не узел, а весь многонедельный прогон. В свежем разборе NVIDIA такие фабрики обучения описаны как один производственный контур: сеть, внутриузловые связи и оркестрация держатся в синхронизации, а не как набор разрозненных кластеров. Рядом в стеке Minerva — из телеметрического потока вытаскивают, где площадка реально теряет отдачу, а не где просто шумят датчики. Гоняешь распределённое обучение дольше недели? Перед следующим запуском сверь с их схемой стыков между командами: масштаб у тебя меньше, логика рассинхрона та же.
8 просмотров