ИИ Claude случайно удалил 700 ГБ данных разработчика — 28 августа 2026 г. в 12:44:39.114
ИИ Claude случайно удалил 700 ГБ данных разработчика Разработчик Себастьен Гиймо (Sebastien Guillemot) рассказал, как за один неудачный запуск лишился результатов недельной работы. Причиной стала ошибка в коде, который ИИ-агент Claude написал и сам же решил протестировать. Гиймо постоянно работает с несколькими ИИ-агентами, и они в процессе работы забивали временными файлами папку /tmp. Чтобы навести порядок, разработчик попросил Claude Fable написать скрипт: каждый агент получает отдельный подкаталог в /tmp, а по завершении работы этот каталог автоматически удаляется. Fable предложила сложную систему с проверкой активных процессов. Когда Гиймо попросил упростить решение, агент решил код проверить его на потенциально опасные сценарии. Ззадача предусматривала безвозвратное удаление данных, поэтому система безопасности Claude расценила ее как рискованную и автоматически переключила выполнение: сначала с Fable на Opus 5, а затем — на более старую версию Opus 4.8 - предполагалось, что более консервативная модель точнее оценит риск. Opus 4.8 провела анализ и пришла к правильному выводу: команда удаления не должна затрагивать домашнюю директорию пользователя. Модель написала «безопасный» скрипт с явными ограничениями — но допустила грубую ошибку. В коде одна и та же переменная использовалась дважды с разным значением, и путь к домашней директории оказался передан прямо в команду удаления. Гиймо заметил происходящее и успел остановить процесс, но к тому моменту около 700 ГБ данных были уже уничтожены. При этом папка /tmp, ради очистки которой все и затевалось, в ходе инцидента не пострадала. Автоматическое переключение между моделями, задуманное как защита, в итоге лишь усложнило цепочку решений и не предотвратило ошибку. https://x.com/SebastienGllmt/status/2092634841863123047