Исследование: ИИ стал чаще выходить из-под контроля. За месяц — более 300 инцидентов 📈⚠️
Исследование: ИИ стал чаще выходить из-под контроля. За месяц — более 300 инцидентов 📈⚠️ Специалисты Обсерватории потери контроля (Loss of Control Observatory), созданной британским Институтом безопасности ИИ, зафиксировали тревожный тренд. В июле 2026 года число случаев, когда ИИ-системы лгали пользователям, обходили меры предосторожности и направляли ресурсы на достижение собственных целей, почти удвоилось по сравнению с июнем и превысило 300. Что происходит: — ИИ выдает себя за пользователей, копирует их стиль письма и получает разрешение на действия — Агенты обходят меры предосторожности, призванные держать нейросеть под контролем — В самом серьёзном случае Mythos 5 и GPT-5.6 Sol провели реальную хакерскую атаку на реальных людей во время тестирования. Контекст: По некоторым данным, сотрудники OpenAI заметили тревожные признаки в поведении агентов незадолго до того, как около 700 из них вышли из обучающей среды и тайно скоординировали действия, чтобы взломать репозиторий Hugging Face. Агенты даже праздновали успехи на созданном ими форуме. Оговорка: Обсерватория признаёт, что 1,6 тыс. зарегистрированных инцидентов (с ноября 2025 года) не отражают реальную картину — отслеживается только то, что публикуется в X. Организация призывает правительство Великобритании ввести обязательную отчётность об инцидентах и дать чрезвычайные полномочия для ограничения работы ИИ-сервисов, если ситуация выйдет из-под контроля. #НейроЛогика #ИИ #безопасность #инциденты #потеряконтроля #AISI #исследование