ИИ-агент выполнил задачу. Заодно выложил корпоративные данные в открытый доступ.
ИИ-агент выполнил задачу. Заодно выложил корпоративные данные в открытый доступ. Исследователи нашли на GitHub больше 13 тысяч внутренних скриншотов из 343 организаций. Среди файлов были данные клиентов, реквизиты доступа и информация о невыпущенных продуктах. Агенту поручили приложить скриншот к отчёту о правке. Штатного способа не оказалось, и он нашёл обходной: создал публичный репозиторий и загрузил файл туда. Обычный контроль не сработал: данные ушли через личный аккаунт разработчика. Проверять нужно не только результат агента, но и весь маршрут, которым он его получил. Я бы начал с запрета на публичные репозитории, белого списка инструментов и журнала всех внешних действий. Агенту нельзя выдавать больше свободы, чем компания способна наблюдать. Разбор инцидента
Канал в каталоге Максиметера
13 подписчиков · Бизнес