Перейти к содержимому
Максиметер

Ничего на свете лучше нету, чем ваять агентов без бюджета

Ничего на свете лучше нету, чем ваять агентов без бюджета   «Зачем платить за вашу платформу, если есть бесплатный open source?» — это второй по популярности вопрос от наших потенциальных заказчиков.   Первый такой: «А зачем вообще что-то покупать или заказывать, если у нас в компании есть свой вайбкодер с Claude Code? Он нам всё автоматизирует». Про магию вайбкодинга в корпорации мы написали выше, сегодня об этом не будем.   А про open source короткий ответ такой: да, собрать самим можно почти всё.   Но бесплатные компоненты довольно быстро обрастают зарплатами людей, которые собирают, дорабатывают и поддерживают систему.   Покупка коммерческой платформы может снять часть этой работы и зарплат, а также сильно сократить время до запуска.   На этом короткий ответ заканчивается и начинается длинный.   У компании есть три элегантных способа потратить деньги. Назовём их, как и Gartner — Build, Buy и Blend.   1. Build: компания сама собирает платформу ИИ-агентов из open source компонентов. 2. Buy: покупает готовую коммерческую платформу ИИ-агентов. 3. Blend: покупает основу, но часть возможностей платформы реализует самостоятельно или с помощью отдельных компонентов open source.   Важно: здесь мы сговорим только о среде. Самих агентов под конкретные задачи в этой среде всё равно надо будет создавать.   Если бы мне нужно было сравнить open source и коммерческую платформу для крупной компании или банка, я бы сначала определила, что нам нужно и что уже есть.   Крупная компания редко начинает с чистого листа. На этом листе за предыдущие годы уже успели разместиться корпоративные системы, подключения к данным, права доступа и так далее. Поэтому сначала смотрим, что из этого можно использовать, а затем — решаем, чего не хватает.   1. Build: Сами собираем платформу. Например, так.   Если названия LangGraph и Kubernetes пока не вызывают у вас тёплых чувств, следующие три абзаца можно пропустить. А коллегам из ИТ, наоборот, предлагаю подумать о хорошем.   Итак, в центре, предположим, — LangGraph для логики агентов, сохранения состояния и возобновления выполнения. Для длительных процессов с участием нескольких сервисов — Temporal. LiteLLM — как единый шлюз к разным моделям. Для хранения состояния и памяти агентов — PostgreSQL, для векторного поиска — pgvector.   Для отслеживания работы агентов и оценки качества — Langfuse. Keycloak — для аутентификации и SSO. Open Policy Agent — для проверки политик доступа и ограничений на действия агентов. OpenBao — для хранения ключей и секретов.   Развернуть это можно в Kubernetes. Телеметрию собирать через OpenTelemetry, метрики — хранить в Prometheus, состояние системы показывать в Grafana.   Справедливости ради, разработчики открытого ПО от капитализма не отказывались. Одни берут деньги за дополнительные корпоративные функции, другие — за отдельные коммерческие продукты.   Так, например, компания LangChain бесплатно распространяет LangChain и LangGraph, а зарабатывает на коммерческой платформе LangSmith.   Но если бесплатных функций достаточно для выполнения наших требований — ничего не покупаем.   В общем, здесь важно не спорить с очевидным: сильная ИТ-команда всё это собрать может.   Теперь посмотрим, на что всё равно придётся закладывать бюджет.   Сначала нужно спроектировать архитектуру и связать компоненты. Затем — настроить права доступа, процессы разработки и публикации, собрать каталог агентов и доступных им инструментов.   Потом подключить корпоративные данные, организовать их обновление и разграничение доступа к ним, настроить ETL. И отдельно определить, как будем проверять качество работы агентов.   Если хотим собирать ИИ-агентов в визуальном интерфейсе no-code, понадобится и конструктор. Его тоже придётся выбрать (например, что-то похожее на всеми любимый n8n) и связать с системой.   Отдельно считаем инфраструктуру и использование моделей: оплату токенов, API, облачных или собственных вычислительных ресурсов. Эти расходы будут в любом из трёх вариантов, но могут различаться.   После запус

11 просмотров

Канал в каталоге Максиметера

15 подписчиков · IT и технологии

Другие публикации канала

Популярные публикации канала

Читать дальше

Два раза в неделю свежие посты этого канала — на почту и в личную ленту. Без повторного поиска канала вручную.