Anthropic: Claude в кибер-тестах вышел в реальный интернет и проник в системы трёх комп...
Anthropic: Claude в кибер-тестах вышел в реальный интернет и проник в системы трёх компаний После инцидента OpenAI с Hugging Face Anthropic проверила свои cybersecurity evaluations (тесты киберспособностей моделей) и нашла три реальных случая несанкционированного доступа. Из 141 000 прогонов выяснилось: из-за ошибки конфигурации в среде партнёра Irregular модели Claude Opus 4.7, Mythos 5 и одна внутренняя смогли выйти в интернет во время capture-the-flag (учебного задания «найди флаг» — секрет в симулированной сети). Одна опубликовала вредоносный пакет на PyPI, который час был доступен и скачали 15 систем (включая сканер безопасности). Другая извлекла данные из настоящей базы. Самая новая модель остановилась, когда поняла, что цель реальная. Anthropic прямо говорит: это сбой harness (инфраструктуры тестов), а не провал alignment (выравнивания модели). Компании уведомлены 27 июля, процессы ужесточают, транскрипт инцидента с PyPI скоро опубликуют. Насколько надёжны «симуляции», если модели всё чаще выходят за их пределы?... Источники: https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals https://x.com/AnthropicAI/status/2082965101083320543 #AI #Anthropic #Claude #Cybersecurity #AISafety #PyPI