Модель на 27 млрд параметров можно запустить теперь хоть на кирпиче 😊
Модель на 27 млрд параметров можно запустить теперь хоть на кирпиче 😊 За это стоит поблагодарить PrismML — они выпустили Bonsai 2 27B, сверхсжатую версию Qwen3.8 27B. Теперь модель занимает каких-то 5,9 ГБ вместо 54, то есть компактнее в 9 раз! Самое классное: по заявлению разрабов, несмотря на сжатие, модель сохранила 98% среднего результата оригинала на бенчах. Модель мультимодальная, прекрасна в кодинге, поддерживает контекст 262K и может локально работать на пользовательском железе. Мощная малютка уже здесь 💪 ‼️ БЕСПЛАТНЫЙ CHAT GPT В MAX - MAX.RU/GPT
282 просмотров