Сбер выпустил новое поколение открытых моделей
Сбер выпустил новое поколение открытых моделей Компания обновила линейку GigaEmbeddings для семантического поиска и работы с корпоративными базами знаний. Почему вообще такие модели важны? Эмбеддинг-модель - это один из ключевых элементов RAG-систем. Если совсем просто, RAG работает так: ▫️ пользователь задаёт вопрос ▫️ система ищет подходящие документы ▫️ LLM формирует ответ на их основе И вот именно GigaEmbeddings отвечает за этап поиска нужной информации. Если система плохо находит нужный фрагмент в базе знаний, даже сильная генеративная модель не спасёт ответ. В open source GigaEmbeddings по лицензии MIT вышли сразу три модели. ▫️ Флагман GigaEmbeddings 10B-A1.8B использует MoE-подход, при котором большая модель использует не все свои параметры одновременно, а только нужную часть. Здесь из 10 млрд параметров активны 1,8 млрд. Проще говоря: модель остаётся большой по возможностям, но работает экономнее. ▫️ На ruMTEB - наборе тестов, на котором сравнивают качество разных моделей - флагман набрал 74,99 и занял первое место. Версия 3B получила 76,93 балла против 62,37 у предыдущего поколения. То есть модель стала заметно лучше понимать программный код и искать похожие фрагменты по смыслу. ▫️ Отдельный акцент - скорость. По данным разработчиков, флагманская модель работает примерно в 1,5 раза быстрее Qwen3 Embedding 4B при запуске через vLLM - инструмент, который помогает быстрее и эффективнее запускать ИИ-модели на серверной инфраструктуре. ▫️ Самая компактная версия 480M рассчитана на высоконагруженные системы. То есть на сценарии, где одновременно приходит много запросов и особенно важны скорость и стоимость обработки. Эмбеддинг-модели редко получают столько внимания, сколько LLM, хотя именно они часто определяют качество корпоративного RAG. Подписывайтесь на AI для бизнеса