🤖 ИИ-агенты: новая точка уязвимости бизнеса
🤖 ИИ-агенты: новая точка уязвимости бизнеса По результатам исследования ГК «Солар», 46% опрошенных компаний уже используют ИИ-агентов с доступом к внутренним системам. При этом контролируют действия агентов, используемые ими инструменты и API только 37%. Риск зависит от полномочий агента. Доступ к платежному API — возможность переводить деньги. Доступ к базе данных — удалять информацию. Подключение к промышленной системе — менять параметры оборудования. Особенно уязвимы отрасли, где кибербезопасность долго не считалась приоритетом. Например, в США в 2021 году из-за хакерской атаки остановились заводы крупнейшего производителя мяса ― защитить их от хакеров никому просто не приходило в голову. Но теперь под угрозой оказывается буквально все, где внутри системы используется ИИ, или просто имеющее выход в интернет. Можно себе представить даже то, что ИИ-агенты «подкрутят» температуру в промышленных холодильниках с мясом. Среди основных угроз эксперты называют кражу API-ключей и токенов, обход аутентификации, удаленное выполнение кода и prompt injection — внедрение вредоносных инструкций во внешний контент, который обрабатывает агент. В исследовании 81% компаний назвали среди критичных рисков утечки данных через ИИ, 60% — галлюцинации и некорректную генерацию, 54% — компрометацию данных и источников знаний. То есть сейчас бизнес больше боится упустить что-то во внешнюю среду, а не потерять управление внутренними системами.