⚡️ Я проверила цифры в блоге Сбера на Хабре: GigaChat 3.5 Ultra сжимает KV-кэш в четыре...
⚡️ Я проверила цифры в блоге Сбера на Хабре: GigaChat 3.5 Ultra сжимает KV-кэш в четыре раза и при этом обгоняет DeepSeek в математике — редкое сочетание для российского опенсорса. Модель вышла 6 июля, у неё 432 млрд параметров (у предыдущей версии, 3.1 Ultra, было 700 млрд). Архитектура гибридная: половина слоёв работает на обычном внимании, половина — на линейном (GatedDeltaNet). За счёт этого throughput вырос на 20%, а генерация ускоряется до 2,2 раза благодаря Multi-Token Prediction. По собственным бенчмаркам Сбера модель обходит DeepSeek V3.2 Exp Base и DeepSeek V4 Flash Base в общих задачах и берёт первое место в математике (MinervaMATH, GSM8K, MGSM) — оставаясь при этом в полтора раза компактнее DeepSeek V3.2. Веса лежат на HuggingFace и GitVerse под лицензией MIT: можно скачать и развернуть у себя. ⚖️ Сравнение по-честному Через Cloud.ru модель доступна по API: 96₽ за 1 млн входных токенов и 289₽ за выходные. DeepSeek V3.2 в этом же формате стоит 22₽/34₽ — в 4-8 раз дешевле. А закрытый Claude Sonnet 5 обойдётся дороже: около 164₽/820₽ за 1 млн токенов по текущему курсу ЦБ. Получается неровно: по цене GigaChat 3.5 Ultra проигрывает своему главному конкуренту по бенчмаркам — DeepSeek, но выигрывает у западного проприетарного флагмана. И ещё момент: точное контекстное окно Сбер не назвал, сказано только, что в память теперь помещается вдвое больше контекста, чем раньше. Прозрачности здесь не хватает. 🛠 Как применить: нужна модель для математики и кода с открытыми весами, которую можно развернуть у себя или через Cloud.ru — стоит присмотреться. Если критична цена здесь и сейчас — сравните с DeepSeek напрямую, разница ощутимая. 💡 Мой вывод: архитектурно интересный опенсорсный релиз, который реально конкурирует с DeepSeek по качеству, но пока не по цене. Технологии готовы раньше экономики — с российскими моделями так бывает часто. https://habr.com/ru/companies/sberbank/articles/1055826/ Нужен виртуальный сотрудник, бот или сайт → https://aleksandrmyasoed.ru/?utm_source=max&utm_medium=post