«Эйфория длилась три минуты»
«Эйфория длилась три минуты» Эйфория Антона Паймышева от того, что вайбкодинг работает, длилась недолго. – Я открыл карточку иркутского фонтана и обнаружил, что он на самом деле находится в Ангарске. Дальнейшая ручная проверка вскрыла проблему: большинство карточек были написаны без единого проверяемого источника, четверть достопримечательностей оказалась из других городов. А инициатором установки памятника первопроходцам в Иркутске (в 2015 году!) модель уверенно назвала казака Якова Похабова, жившего в XVII веке. Самое страшное, что технически конвейер отработал идеально, все галочки горели зеленым, – признавался Антон. – Я попросил написать – ИИ честно написал красивый и уверенный текст. Просто половина фактов в нем была чистейшим вымыслом. Примерно с тем же столкнулась команда FirstVDS – всё работало, но абсолютно не так, как было задумано. Как только бот-автоответчик отдали на тестирование реальной поддержке, разработчиков буквально завалили жалобами. – Модель путалась в терминах, – пояснили Андрей Донской и Николай Иванчик. – Слово «домен» встречалось в инструкциях сотни раз в разных контекстах, и ИИ не понимал, какое применить. Бот уверенно галлюцинировал, давал битые ссылки, ссылался на посторонние документы. А когда переписка становилась длинной, он начинал ходить по кругу, бесконечно повторяя одно и то же. ИИ игнорировал границы ответственности первой линии: например, предлагал операторам совершить финансовые операции или передать запрос туда, куда регламент строго запрещал. Сами операторы встретили робота в штыки – решили, что их хотят заменить «дешевой ИИшкой». Денис Лаптев тоже быстро вывел для себя правило: вайбкодинг безвозвратно заканчивается там, где появляется критическая ошибка, которую невозможно просто откатить. – Парсер курсов ЦБ, написанный агентом за пару минут, технически работал идеально. Но данные получал на 7 секунд позже конкурентов. В алгоритмической торговле это означает прямые финансовые убытки. В юридическом воркплейсе – рабочем пространстве, где ИИ-агенты разбирают судебные дела, – модель была склонна соглашаться с пользователем и подстраивать под него аргументы. Новостной агрегатор обходился почти в $400 в месяц. Но самым большим ударом стала блокировка. Защитные алгоритмы провайдеров сочли действия моих ИИ-агентов вредоносным ПО и заблокировали аккаунт, – рассказал Денис. – В один миг я потерял доступ ко всем системам. Полную версию материала читайте на нашем сайте.