Компания Cactus представила Needle 3 — компактную языковую модель для мобильных устройс...
Компания Cactus представила Needle 3 — компактную языковую модель для мобильных устройств, носимой электроники, роботов, умного дома, автомобилей и микроконтроллеров. Needle 3 занимает от 8 до 29 МБ, работает с глубиной от 2 до 20 слоёв и превосходит по эффективности модели значительно большего размера в ряде задач. Модель поддерживает локальное выполнение инструментов и структурированную обработку текста — например, создание заметок, анализ уведомлений или управление умным домом без отправки данных в облако. Needle 3 легко интегрируется и настраивается, позволяя выбрать оптимальный размер для конкретной задачи и платформы. Источник: https://cactuscompute.com/needle