Новое поколение GigaEmbeddings: быстрее, точнее и с открытым кодом
Новое поколение GigaEmbeddings: быстрее, точнее и с открытым кодом Вышла обновленная линейка эмбеддинг-моделей GigaEmbeddings — 480M, 3B и флагман 10B-A1.8B. Они предназначены для семантического поиска, RAG, классификации и кластеризации. Команда переработала архитектуру и добавила поддержку vLLM и SGLang. Благодаря этому инференс ускорился: 3B работает в 1,6 раза быстрее предыдущей версии, а MoE-модель 10B-A1.8B (с 1,8 млрд активных параметров) — в 2 раза. Флагман набрал 74,99 в бенчмарке ruMTEB и занял первое место в рейтинге. Модель 3B значительно улучшила обработку кода — прирост составил 14,5 пункта (с 62,37 до 76,93). А версия 480M стала лучшей русскоязычной моделью среди решений до 500 млн параметров. Объем обучающих данных вырос в несколько раз за счет датасетов Nemotron, F2LLM и KALM.