⚡️ Сбер в начале июля выложил в открытый доступ GigaChat 3.5 Ultra — и это тот редкий с...
⚡️ Сбер в начале июля выложил в открытый доступ GigaChat 3.5 Ultra — и это тот редкий случай, когда флагман стал не больше, а меньше. 432 млрд параметров против 700 млрд у прошлого GigaChat 3.1 Ultra. Активны на инференсе всего около 28 млрд — MoE-архитектура плюс связка гибридного и линейного внимания с Multi-Token Prediction. Итог: greedy decoding ускорился в 2,2 раза, пропускная способность выросла на 20%, KV-кэш на токен — почти в 4 раза меньше. С документами модель, по заявлению Сбера, работает до 4 раз быстрее прошлой версии. По бенчмаркам Сбер заявляет: базовая версия обходит DeepSeek V3.2 Exp Base и DeepSeek V4 Flash Base, первое место по математике (MinervaMATH, GSM8K, MGSM), поддержка 600+ языков программирования вместо 16. После alignment — на уровне DeepSeek V3.2, при этом модель в полтора раза меньше. ⚖️ Сравниваю с Claude. У Sonnet 5 контекст — 1 млн токенов из коробки, цена в API — от 2$ за млн входных токенов (до конца августа, дальше дороже), но модель закрытая, доступ только через облачный API. У GigaChat 3.5 Ultra контекстное окно вообще нигде официально не указано — это минус, я его нашла не сразу и в итоге не нашла вовсе. Зато веса модели выложены под MIT-лицензией на Hugging Face и GitVerse — можно скачать и запускать у себя, не платя за токены вовсе, если найдётся железо под 432 млрд параметров. И да, все цифры про бенчмарки выше — это заявления самого Сбера, не независимые замеры. Пока со стороны их никто не перепроверил, я бы не спешила с выводом «GigaChat обошёл DeepSeek» — просто фиксирую, что заявлено. 🛠 Есть свои мощности и хочется российскую агентную модель без зависимости от зарубежного API — качай веса (есть версии bf16, fp8, GGUF для более скромного железа) с Hugging Face. Нет мощностей — модель уже бесплатно доступна в ассистенте ГигаЧат для личных и рабочих задач. 💡 Инженерно это красиво: Сбер не просто нарастил параметры, а ужал модель, сохранив качество. Но пока это разговор в одни ворота — жду независимых тестов, чтобы говорить о реальном месте GigaChat 3.5 Ultra среди топовых моделей. https://habr.com/ru/companies/sberbank/articles/1055826/ Нужен виртуальный сотрудник, бот или сайт → https://aleksandrmyasoed.ru/?utm_source=max&utm_medium=post