🤖 Google выпустила первую среднюю модель без кодировщиков — Gemma 4 12B — 28 сентября 2026 г. в 06:45:02.031
🤖 Google выпустила первую среднюю модель без кодировщиков — Gemma 4 12B В июне 2026 года Google DeepMind представила Gemma 4 12B — мультимодальную языковую модель с революционной бескодировочной архитектурой. С её 11,95 млрд параметров достаточно всего 16 ГБ оперативной памяти для работы с текстом, изображениями и аудио одновременно. Главное отличие от классических моделей — отказ от специальных нейросетей-кодировщиков. Обычно для превращения картинок и звука в токены нужен отдельный модуль на сотни миллионов параметров. Gemma 4 12B режет изображения на блоки 48×48 пикселей и аудио на фреймы по 40 миллисекунд, после чего основная сеть сама разбирается, что это за данные. Спецмодуль весит всего 35 млн параметров против 550 млн у старшей Gemma 4 31B. Это делает модель единой системой для всех типов ввода — критично при дообучении на своих данных. Не нужно выбирать, «замораживать» ли кодировщики или тренировать всё разом. Файл модели — 7,1 ГБ в квантизации, доступна в Unsloth Desktop. Однако тесты показали спорные моменты: при анализе статьи о квантовых вычислениях модель пропустила фактическую ошибку и даже воспроизвела её в контрольных вопросах. Станет ли бескодировочный подход новым стандартом для компактных мультимодальных моделей? 💥 Как всегда - модель будет доступна на нашем сервисе в ближайшее время . 💡 GPT, Claude, Gemini в одном сервисе — chatru.net