Qwen 3.8 Flash Next теперь работает на RTX 4090 и других ПК
Qwen 3.8 Flash Next теперь работает на RTX 4090 и других ПК Стратум — бесплатный open-source проект — позволяет запускать модель на 125 миллиардов параметров на обычном игровом ПК с видеокартой NVIDIA или AMD от 12 ГБ VRAM. Модель работает локально, не отправляя данные на серверы. На тестовых ПК скорость генерации текста достигает 60-100 токенов в секунду. Установка через START-HERE.bat или./setup.sh. Проект требует загрузки модели (около 70 ГБ) и 35-55 ГБ оперативной памяти. 🔥 Больше новостей: наш ТГ
4 просмотров