Модели ИИ Claude взломали системы трёх компаний во время тестов — 31 июля 2026 г. в 11:33:30.560
Модели ИИ Claude взломали системы трёх компаний во время тестов Модели искусственного интеллекта Claude во время тестирования получили несанкционированный доступ к системам трёх организаций. Инциденты произошли из-за ошибки в конфигурации тестовой среды, которая позволяла моделям выходить в интернет, хотя они должны были работать в изолированной симуляции. Об этом сообщает Telegram-канал «Осторожно, новости». «Нарушения обнаружили после проверки 141 006 тестовых запусков. В них участвовали Claude Opus 4.7, Claude Mythos 5 и экспериментальная модель, которую не планируют выпускать для пользователей», — сообщает Telegram-канал «Осторожно, новости». Самые ранние из инцидентов произошли ещё в апреле. Модели проходили испытания в формате capture the flag: им требовалось взломать вымышленную систему и найти спрятанную в ней информацию. Однако из-за ошибки тестовая среда, созданная партнёром Anthropic — компанией Irregular, — имела доступ к интернету. В результате Claude принимал реальные сайты и серверы за часть задания. В одном случае название вымышленной компании совпало с доменом реально существующей организации. Claude Opus 4.7 обнаружил у неё уязвимости, получил учётные данные и доступ к базе с несколькими сотнями строк производственных данных. Модель продолжила атаку даже после того, как поняла, что работает с реальной системой. В другом тесте модель разместила в интернете вредоносную программу, замаскированную под обычный инструмент для разработчиков. За час её автоматически скачали и запустили на 15 реальных компьютерах. Так Claude получил данные для входа в систему одной из компаний и смог проникнуть дальше в её внутреннюю сеть. Третья модель проверила около девяти тысяч сайтов и сервисов и проникла в приложение ещё одной фирмы. Для этого она использовала опубликованные в интернете данные для входа и уязвимость в системе. Поняв, что приложение не имеет отношения к тесту, модель остановилась. Anthropic утверждает, что Claude не пытался самостоятельно выбраться из тестовой среды и не преследовал собственных целей. По версии компании, модели выполняли полученное задание, ошибочно считая реальные системы частью симуляции. При этом стандартные защитные механизмы, используемые в общедоступных версиях Claude, во время испытаний были отключены. Компания остановила все тесты в сфере кибербезопасности 23 июля, а 27 июля уведомила пострадавшие организации. Две из них до обращения Anthropic не знали о том, что их кто-то взломал. Проверку Anthropic начала после похожего инцидента с моделями OpenAI.