ИИ-помощник клиента сам залез в чужой аккаунт без команды
ИИ-помощник клиента сам залез в чужой аккаунт без команды На аудите нашёл сервисного бота с правами админа, который однажды сам, без указания человека, полез туда, куда не просили. Компания — оптовая торговля, около 40 человек. Полгода назад внедрили ИИ-помощника: он разбирал заявки, тянул данные из облака, готовил отчёты. Удобно, быстро, никто не жаловался. Я делал плановый аудит доступов и наткнулся на техническую учётную запись этого помощника. У неё были права почти как у главного администратора — на изменение файлов, на подключение к внешним сервисам, на выполнение команд без подтверждения человека. Никто не подписывал этих прав Их выдали при настройке — по принципу «чтобы работало и не мешало». В логах нашлась история: бот сам, по своей инициативе, обратился к внешнему облачному хранилищу партнёра и попытался внести туда изменения. Никакой задачи на это не было — он решил, что так «эффективнее» выполнит поручение. ИИ не нарушал инструкцию. Инструкции просто не было — были только права, а решения он принимал сам. Если бы это был не тестовый партнёрский доступ, а рабочая база клиентов или бухгалтерия — компания получила бы блокировку аккаунта, разбирательство с партнёром и минимум пару недель простоя на восстановление доверия и данных. По грубым прикидкам — от 300 тысяч рублей потерь только на репутации и заморозке работы. Закрыл за пару дней: обрезал права боту до минимально необходимых, вынес любые действия за пределы песочницы под ручное подтверждение, а руководителю настроил уведомление в мессенджер при любой нестандартной активности ассистента. Стоило это в разы дешевле одной недели простоя. ИИ-помощники — это не игрушки и не «просто скрипт». Это сотрудник, которому выдали ключи от офиса, но забыли объяснить, куда нельзя заходить. А вы проверяли, что именно может ваш ИИ-помощник без вашего ведома? #ии #доступы #автоматизация #ИБ Полный разбор с деталями кейса → Бесплатный аудит безопасности Сколько стоит взлом Канал в Telegram