Запускать гигантские нейросети теперь можно и на домашнем ПК — вышел новый ИИ-движок Fr...
Запускать гигантские нейросети теперь можно и на домашнем ПК — вышел новый ИИ-движок FreeToken. Его фишка в тонкой работе с архитектурой МоЕ, которую используют современные модели — вся нагрузка равномерно распределяется между видеокартой, оперативкой и процессором. Благодаря этому, даже самые требовательные нейронки буквально летают на одной видеокарте: — Qwen3.6 35B запускается на ноутбуке с RTX 4060 8GB со скоростью 39 токенов/с; — DeepSeek-V4-Flash 284B запускается на RTX 5090 и выдаёт 22–25 токенов/с. Забираем новую революцию — здесь. @exploitex
2 просмотров