Компилируемый ИИ: где ему место, а где нет
Компилируемый ИИ: где ему место, а где нет Одна мысль, к которой я пришёл после года со своими агентами, и она сильно поменяла, как я строю сервисы. ИИ нужен ровно в двух точках. Первая: когда рождается что-то новое, чего раньше не было. Текст, описание, идея, план. Вторая: когда случилось что-то, чего никто не ждал, и нужно суждение. Всё остальное между этими двумя точками должно быть кодом. Считать метрики, сверять статусы, выбирать записи из базы, складывать цифры в отчёт. Это не работа для ИИ. Это работа для скрипта, который делает одно и то же одинаково каждый раз и не выдумывает. Как я к этому пришёл. Раньше у меня агент по аналитике рекламы получал всю выгрузку целиком и «думал». Красиво, умно, и время от времени в отчёте появлялись цифры, которых в данных не было. Не потому что модель плохая, а потому что считать и помнить это не её сильная сторона. Переделал: код считает, ИИ только объясняет, что значат цифры, и предлагает, что делать. Токенов стало меньше раз в десять, а галлюцинации в цифрах исчезли совсем. Правило простое. Как только план агента стабилизировался и он третий раз делает одно и то же, эту часть надо «скомпилировать» в код. ИИ оставить там, где он реально незаменим. Вывод: перестаём коллекционировать модели, начинаем коллекционировать результаты. И результаты чаще всего дают не самые умные модели, а самые правильно поставленные. А у вас ИИ считает цифры сам или вы ему уже не доверяете это?)
Канал в каталоге Максиметера
1 240 подписчиков · IT и технологии