SageMaker перестал ждать полный pull: SOCI-образы стартуют за секунды
SageMaker перестал ждать полный pull: SOCI-образы стартуют за секунды Если вы гоняете сотни коротких прогонов под подбор гиперпараметров, узкое место часто не в коде, а в минутах ожидания, пока узел целиком стягивает образ из реестра. В SageMaker теперь можно включить ленивую загрузку: для старта хватает первых слоёв, остальное подтягивается в фоне, пока уже крутится ваш скрипт. В замерах Amazon простой видеокарты на этапе скачивания образа просел до 90%. Для пачек экспериментов это не разовая оптимизация — это повторяющийся налог на каждый запуск. Готовые контейнеры для обучения помечены суффиксом -soci в теге; каналы данных и точка входа те же. Индекса нет — сервис вернётся к полной загрузке образа.
6 просмотров