Soup — это инструмент для настройки и дообучения больших языковых моделей (LLM) в один ...
Soup — это инструмент для настройки и дообучения больших языковых моделей (LLM) в один клик с помощью одного YAML-файла. Система позволяет тренировать модели объёмом 8B даже на ноутбуках с GPU всего на 4 ГБ благодаря потоковой передаче слоёв, что снижает требования к видеопамяти. Вся инфраструктура — автоконфигурируемая: обнаружение устройств, подбор размера батча и других параметров происходит автоматически. Поддерживаются разные сценарии обучения, включая современные методы оптимизации и оценивания качества. Интерфейс предназначен для работы как с облаками, так и на локальных компьютерах без сложных настроек. Источник: https://github.com/MakazhanAlpamys/Soup
106 просмотров
Канал в каталоге Максиметера
339 подписчиков · IT и технологии