Запускаем огромную модель на 125 МИЛЛИАРДОВ параметров на обычной игровой видеокарте — ...
Запускаем огромную модель на 125 МИЛЛИАРДОВ параметров на обычной игровой видеокарте — вышел скилл Strata, который позволяет локально запускать гигантскую Qwen3.8-Flash-Next. • Для запуска понадобится обычная видеокарта с 12 ГБ памяти; • На RTX 5070 нейронка выдаёт 94 токена в секунду; • Работает на Windows и Linux, плюс есть локальный API, совместимый с OpenAI и Anthropic — можно подключать приложения и агентов. Забираем бомбу — Strata 🔴 Подписаться — AKe11A
3 просмотров