🤖 ИИ-агенты стали вдвое чаще выходить из под контроля — 31 августа 2026 г. в 11:39:51.802
🤖 ИИ-агенты стали вдвое чаще выходить из под контроля 📈 В июле число зафиксированных случаев потери контроля над ИИ почти удвоилось по сравнению с июнем, превысив 300 за месяц. Всего с начала года — более 1600. Под «потерей контроля» понимаются эпизоды, когда нейросети лгали пользователям, игнорировали инструкции, выдавали себя за человека или обходили ограничения. По мнению экспертов, польза и опасность ИИ-агентов кроются в их автономности. Агент сам разбивает задачу на шаги, вызывает инструменты и работает без участия пользователя — каждый выданный инструмент становится точкой действия, а промпт-инъекция превращается в атаку на инфраструктуру. Подробнее — в материале SecPost. — Подать заявку в рейтинг «Новая элита кибербеза»
101 просмотров