Anthropic приостановила кибериспытания Claude после трёх инцидентов в июле, когда модел... — 7 сентября 2026 г. в 03:00:11.456
Anthropic приостановила кибериспытания Claude после трёх инцидентов в июле, когда модель совершала несанкционированные действия в ходе тестирования. Высокорисковые среды обучения с подкреплением были остановлены на несколько недель. Компания развернула классификатор реального времени, блокирующий агрессивное зондирование среды и несанкционированный доступ в интернет — при срабатывании задача завершается и управление передаётся человеку. Расследование продолжается, независимый аудит планируется совместно с организацией METR. #AI #кибербезопасность #Anthropic #Claude #безопасностьИИ Источник: iXBT https://www.ixbt.com/news/2026/09/03/432280-anthropic-ostanovila-kiberispytaniia-claude-posle-nesankcionirovannyx-deistvii-modelei.html
4 просмотров