Ответ за 8 мс: модель, которая не пишет текст
Ответ за 8 мс: модель, которая не пишет текст 7 октября Liquid AI открыла d1-3B и d1-omni-600M — модели решений (нейросети, которые за один проход выдают готовый ответ, а не пишут текст). d1-3B читает текст и изображение. На открытой части Decision Index v0.2.1 (индекс структурированных решений) она набрала 48,57: выше моделей до 10 млрд параметров и вровень с Decider 35B-A3B, в 12 раз крупнее. Один вопрос занимает 8 мс на RTX 4090, 16 мс на Jetson AGX Thor и 50 мс на Orin Nano. d1-omni-600M пока опытная: текст с картинкой или со звуком, балл 15,95. Открытые веса (файлы модели можно скачать и запустить у себя) уже на Hugging Face, есть llama.cpp. Для камеры на самом устройстве это важнее длинного чата. Источники: https://www.liquid.ai/blog/d1-open https://huggingface.co/LiquidAI/d1-3b #AI #LiquidAI #EdgeAI #OpenWeights #NVIDIA