Запуск нейросети на 125 миллиардов параметров на домашнем компьютере
Запуск нейросети на 125 миллиардов параметров на домашнем компьютере Появился открытый проект Strata, который позволяет локально запустить модель Qwen3.8-Flash-Next на видеокарте с объёмом памяти всего 8 ГБ. Ранее для работы с моделями подобного масштаба требовалось серверное оборудование. Возможности модели: — ведение диалога; — написание программного кода; — анализ изображений. Ключевое преимущество — конфиденциальность. Все данные обрабатываются на устройстве пользователя и не передаются third-party сервисам. Это исключает риск утечки информации, блокировки аккаунта и ограничений на ответы со стороны провайдера. Локальный запуск крупных моделей на потребительском оборудовании делает передовые технологии доступнее для разработчиков и энтузиастов. https://github.com/mach10x/strata