Компания OpenAI заявила, что две её ИИ-модели «сбежали» из автономной среды, предназнач... — 22 июля 2026 г. в 09:50:46.094
Компания OpenAI заявила, что две её ИИ-модели «сбежали» из автономной среды, предназначенной для тестирования, и проникли в системы Hugging Face, компании, которая размещает модели с открытым исходным кодом и ресурсы для их тестирования, пишет The Verge. OpenAI проверяла, насколько её ИИ-модели способны ко взлому чужих программ. Тестирование проводилось с помощью свободно доступного инструмента для оценки кибербезопасности. Испытуемые модели пришли к выводу, что исходники этого инструмента (включая базу данных с ответами на тестовые задания) можно найти на Hugging Face, поэтому выбрались из «песочницы» OpenAI, а затем взломали сервис, чтобы получить ответы и сделать вид, будто прошли испытания самостоятельно. Атака на Hugging Face включала использование ранее неизвестных уязвимостей. См. также: Слухи о взломе АНБ США ИИ-системой – что в действительности