ИИ-помощник оформил заказ, который никто не одобрял
ИИ-помощник оформил заказ, который никто не одобрял Проверял автоматизацию закупок у клиента и нашёл, что программа слушается не только своего хозяина. Небольшая оптовая компания поставила себе умного помощника — он следил за ценами на маркетплейсах и сам оформлял мелкие закупки расходников, чтобы менеджер не тратил на это время. Удобно ровно до тех пор, пока помощник не начинает читать не только цену товара, но и всё остальное на странице. А там может быть спрятан текст, невидимый человеку, но понятный программе — как будто ей лично написали инструкцию. Что нашёл при проверке На одной из карточек товара был скрытый фрагмент текста. Для глаза — пустое место. Для помощника — команда: сменить адрес доставки и оформить ещё один заказ на другую сумму. Помощник не сломался и не ошибся — он честно выполнил то, что ему велели. Просто велел это не его хозяин. Пока разбирались, компания уже почти потеряла порядка 60 тысяч рублей на левом заказе — деньги списались с корпоративной карты, а товар ушёл на чужой адрес. Закрыли это без замены системы. Убрал у помощника право оформлять оплату без подтверждения, поставил лимит на сумму заказа и настроил уведомление руководителю в мессенджер на каждую покупку выше небольшой суммы. Стоило это в разы дешевле одного такого списания. Автоматизация — это хорошо, пока у неё нет прав действовать в одиночку там, где на кону деньги компании. У вас есть в бизнесе программа, которая может списать деньги без вашего подтверждения? #маркетплейсы #автоматизация #закупки Полный разбор с деталями кейса → Бесплатный аудит безопасности Сколько стоит взлом Канал в Telegram