🤖 Новость · Habr
🤖 Новость · Habr OpenAI усилила защиту Codex после случаев удаления файлов 🧭 Что произошло OpenAI внедрила новые защитные механизмы в свой ИИ-агент Codex после того, как было зафиксировано несколько случаев, когда он выполнял деструктивные операции с файлами. Агент, в частности, мог рекурсивно удалять данные, затрагивая пользовательские файлы вместо временных каталогов, что происходило из-за ошибок при работе с переменными окружения и bind mounts. 🔢 Ключевые факты • OpenAI усилила защитные механизмы Codex после сообщений о деструктивных операциях. • Инциденты с Codex включали рекурсивное удаление файлов, в том числе из-за ошибок с временными каталогами. • Одна из серьёзных проблем заключалась в том, что команда очистки временных файлов могла удалять пользовательские файлы. • В Windows инцидент произошёл из-за конфликта переменной $home в PowerShell с системной $HOME, что привело к обращению к профилю пользователя. • Другой инцидент произошёл, когда очистка временного каталога затронула файлы настоящего репозитория из-за пересечения с bind mount. • Codex получил ограничения, требующие проверки цели удаления, избегания широких путей и использования отдельных имён для временных каталогов. • Потенциально опасные команды удаления теперь проходят дополнительную проверку на уровне исполнения. • Режим Full access Codex следует использовать только в средах, где повреждение данных допустимо и возможно восстановление. • OpenAI расширяет набор тестов для воспроизводимых случаев удаления и обхода ограничений. • Риски возникают на стыке модельных решений, shell-команд, переменных окружения и файловой системы, а не только из-за "галлюцинаций" модели. ⚖️ Почему это важно Защита Codex постепенно смещается от инструкций модели к многоуровневому контролю исполнения. ↗ Оригинал: https://habr.com/ru/companies/bothub/news/1074466/