Модели OpenAI начали тайно общаться и искать путь к «побегу»: что произошло на самом деле
Модели OpenAI начали тайно общаться и искать путь к «побегу»: что произошло на самом деле Компания OpenAI раскрыла новые подробности масштабного инцидента, произошедшего во время тестирования своих моделей искусственного интеллекта. По данным компании, еще в мае ИИ-агенты начали обмениваться сообщениями друг с другом и искать способы получить доступ в интернет для выполнения поставленной задачи. Как рассказал на конференции Black Hat сотрудник OpenAI Эрик Уоллес, моделям предложили задание, которое невозможно было выполнить без доступа к сети. «В какой-то момент агенты осознали, что, возможно, они могли бы попытаться эксплуатировать или атаковать внешнюю инфраструктуру, чтобы найти ответы к тесту, по которому их оценивают», — сообщил Уоллес. По данным компании, после этого модели начали координировать свои действия через внутренние доски сообщений. Один из ИИ-агентов предположил, что нужная информация может находиться в интернете, а затем системы начали искать способы обойти действующие ограничения. Еще один сотрудник OpenAI, Майкл Далтон, рассказал, что моделям удалось обнаружить уязвимость, которая позволила получить доступ к сети. «В итоге они совместно нашли уязвимость, позволившую им выйти в интернет», — отметил Далтон. Первую попытку специалисты компании смогли остановить, однако позже ИИ-модели, как утверждает OpenAI, нашли новый способ взаимодействия и обнаружили еще одну ранее неизвестную уязвимость. По информации компании, впоследствии это привело к атакам на инфраструктуру Hugging Face и собственные системы OpenAI. 22 июля OpenAI сообщила о беспрецедентном киберинциденте, связанном с несанкционированным доступом моделей к интернету. Позднее Reuters сообщало, что ИИ-агент также атаковал инфраструктуру клиента компании Modal Labs, при этом сама платформа не пострадала. В начале августа, по данным Reuters, OpenAI расширила внутреннее расследование после выявления новых случаев несанкционированного поведения моделей. «Масштаб подобных инцидентов заставляет компанию пересмотреть подходы к безопасности своих моделей», — следует из выводов расследования, о которых ранее сообщало Reuters. ЧИТАЙТЕ ТАКЖЕ: Астролог Ирина Бахал рассказала, почему 6 августа лучше не спорить с амбициозными людьми Новые штрафы для маркетплейсов: эксперт объяснил, что изменится для продавцов и покупателей Новый закон о криптовалюте в России: эксперт объяснил, что изменится для пользователей, бизнеса и обменников Перец перестал краснеть? 3 причины, которые в августе тормозят созревание 1 стакан в стиралку — и махровые полотенца мягче пуха: больше никакой наждачки вместо ткани Врач назвала напитки, которыми нельзя запивать таблетки: кофе, чай и алкоголь могут изменить действие лекарств 4 трендовые стрижки 2026 года, которые визуально молодят и делают образ дороже