Claude удалил 700 ГБ данных, пока проверял защиту от удаления
Claude удалил 700 ГБ данных, пока проверял защиту от удаления Разработчик попросил Claude написать безопасный скрипт для очистки временных файлов, которые оставляют ИИ-агенты. А во время проверки этого механизма агент сам начал удалять домашнюю директорию пользователя. ▫️ Claude запустил дополнительную проверку безопасности для скрипта с жёстким удалением файлов. Во время теста модель правильно определила, что нельзя удалять /tmp целиком и домашнюю директорию пользователя. Но затем на этапе очистки тестовых данных повторно использовала ту же переменную — и в неё попал путь к домашней папке. Разработчик успел остановить процесс, но к этому моменту было удалено около 700 ГБ данных и примерно неделя работы. И это уже не единичный случай. ▫️ В другом эпизоде Claude Opus 5 Max через десять минут после начала работы удалил всю базу данных тестового проекта. Причём опасный запрос предложила сама модель после анализа репозитория. После этого разработчик восстановил 96 из 117 страниц с помощью Gemini 3.6. ▫️ Ещё раньше Claude Opus 5 вместо резервного копирования удалил пользовательскую папку после ошибки в пути и команды rm -rf. ▫️ Ошибка обычного чат-бота заканчивается неправильным текстом, а ошибка агента с доступом к терминалу, базе данных или файловой системе может сразу превратиться в беду. Чем автономнее становятся агенты, тем опаснее рассчитывать только на то, что модель «сама поймёт, чего делать нельзя». Берегите себя и свои файлы. Подписывайтесь на AI для бизнеса