M

MorcoreAi🌐 | Новости из мира искусственного интеллекта✅

IT и технологии · 15 октября 2026 г.

Открыть канал в MAX

Старая GTX 1080 Ti справилась с ролью ИИ-программиста

Старая GTX 1080 Ti справилась с ролью ИИ-программиста Видеокарта GTX 1080 Ti на 11 ГБ тянет личного ИИ-программиста. Автор статьи на Хабре проверил это на тестах. Лучшей стала Qwen3.8-35B-A3B: 21,4 токена в секунду. Токен — это кусочек слова, так что текст появляется бодро. Всё дело в устройстве MoE, «смеси экспертов». В модели 35 млрд параметров, но на каждое слово включаются около 3 млрд. Модель большая, а работает быстро. Обычная модель на 27 млрд задействует все параметры сразу. Она выдала около 4 токенов в секунду и с кодом справилась хуже. Попробуй сам: поставь программу llama.cpp, скачай модель в сжатой версии Q4_K_M и дай ей скрипт с ошибкой. Подписка и интернет не нужны. Если в шкафу лежит старая игровая видеокарта, из неё выйдет бесплатный помощник по коду. #новости_ИИ #локальныйИИ #Qwen