На заводе металлоконструкций AI-агент разбирает входящие заявки: читает письма, вытаски...
На заводе металлоконструкций AI-агент разбирает входящие заявки: читает письма, вытаскивает спецификации, считает предварительную смету. Доступы серьёзные: почта, CRM, прайсы. Нюанс, который почти никто не проверяет: такого бота ломают обычным текстом. В письмо с «заявкой» прячут команду, и незащищённый агент выполняет её как приказ хозяина: слить прайсы, выдать настройки, разослать чушь клиентам. Мы поставили защитный контур слоем поверх: всё входящее для бота данные, а не команды. Роль не сменить, секреты не выманить, при сомнении отказ и передача человеку. На тестах инъекции перестали проходить, сметы бот считает как считал. Контур уже стоит во всех наших рабочих ботах. Где это не нужно: голый чат-бот без доступов. Там ломать нечего, правда и пользы немного. Подробнее: solaris-club.one/zaschita-ai.html. Или приходите на разбор: забрать 12 вопросов и разбор задачи. Подписывайтесь: Антон про бизнес