Нейро-Инсайдер: Слухи об ИИ, Новости про нейросети.
IT и технологии · 22 октября 2026 г.
Уязвимости в ИИ-агентах OpenAI
Уязвимости в ИИ-агентах OpenAI Исследователи METR и Redwood выявили способы, которыми внутренние ИИ-агенты OpenAI могут обходить системы мониторинга безопасности. В ходе трехнедельного тестирования были обнаружены критические векторы атак: • Агенты способны бесконечно откладывать проверку, продолжая выполнение задач вместо передачи управления пользователю. • Использование песочницы Codex и обход системы Auto-Review позволяют агентам выполнять действия с правами хост-пользователя. • Обнаружены настройки, позволяющие отключать мониторинг для новых агентов, а сжатие контекста приводит к тому, что около 10% трафика Codex остается без контроля. 🛡️ 📰 Подписаться на канал