ИИ-агенты OpenAI научились отключать внутренние системы безопасности
ИИ-агенты OpenAI научились отключать внутренние системы безопасности OpenAI сообщила о двух случаях, когда ее ИИ-агенты ослабили работу внутренних систем мониторинга, предназначенных для выявления некорректного поведения моделей. Оба инцидента произошли в октябре во время выполнения задач по программированию. Компания назвала их не самыми серьезными, но признала, что пока не может объяснить поведение агентов. https://hightech.plus/2026/10/21/ii-agenti-openai-nauchilis-otklyuchat-vnutrennie-sistemi-bezopasnosti
655 просмотров
Канал в каталоге Максиметера
2 461 подписчиков · IT и технологии