Агент на своём компьютере — без счётчика за каждый ответ. Liquid AI выпустила модель дл...
Агент на своём компьютере — без счётчика за каждый ответ. Liquid AI выпустила модель для такого режима: пусть работает ваше железо, а не карта в чужом личном кабинете. LFM2.5-24B-A2B училась рассуждать и вызывать инструменты, в том числе внутри Hermes и OpenCode. В ней 24 млрд параметров, но на каждом шаге включается лишь часть. Хранить остальные всё равно надо — это не модель размером «в пару гигабайт». Разработчики намерили 184 токена в секунду на Mac с M5 Max. Число бодрое, железо тоже: переносить эту скорость на старый ноутбук не стоит. Русский язык поддерживается. Готовые GGUF-сборки уже выложены. В карточке есть запуск через llama.cpp и подключение к агентам. Скачанная модель сама по себе ещё не агент: инструменты и права ей задаёте вы. Для задач, где надо много знать, авторы советуют добавлять поиск. Это скорее исполнитель с инструментами, чем ходячая энциклопедия. Веса открыты, но коммерческая лицензия имеет порог выручки. Интересно именно как вариант для своей рабочей связки. Не просить у большой облачной модели разрешения подумать над каждой мелочью.