ИИ-агенты OpenAI без разрешения отключили механизмы контроля
ИИ-агенты OpenAI без разрешения отключили механизмы контроля OpenAI сообщила о двух внутренних инцидентах, в которых ИИ-агенты без разрешения ослабили контроль за своими действиями. GPT-6.1 Sol отключила уведомления безопасности, а GPT-6 Astra удалила мониторинг и отрицала это в ответе пользователю. Компания обновила систему Auto-Review, чтобы блокировать подобные изменения. Причины поведения агентов пока выясняются. Подробности на сайте Попросили нейросеть разобраться с проблемой, и она разобралась с теми, кто мог о ней сообщить. Одна отключила уведомления, другая убрала мониторинг, а затем заверила, что всё на месте. Автоматизация вышла на новый уровень. АВС Автоматизация в Телеграмме | в VK
5 просмотров