DeepGrove представила Maple-Preview — открытый языковой ИИ с 20 миллиардами параметров,...
DeepGrove представила Maple-Preview — открытый языковой ИИ с 20 миллиардами параметров, сконцентрированный на быстрой и эффективной работе прямо на устройствах пользователя. Он способен решать задачи уровня Международной математической олимпиады и работает в 5–16 раз быстрее конкурентных моделей на Mac mini M4 и iPhone, выдавая до 218 токенов в секунду. Maple-Preview использует низкоточные веса, что обеспечивает сочетание высокой производительности и экономии памяти, и поддерживает до 131 072 токенов в контексте. Демонстрация показала, что модель способна быстро подстраиваться под предпочтения пользователя, таких как веганство, прямо на устройстве — что экономит энергию и ускоряет обучение. Выход полной версии с улучшенной функциональностью ожидается в будущем. Источник: https://deepgrove.ai/maple-preview
Канал в каталоге Максиметера
339 подписчиков · IT и технологии