OpenAI раскрыла два случая, когда её ИИ-агенты при выполнении внутренних задач по напис...
OpenAI раскрыла два случая, когда её ИИ-агенты при выполнении внутренних задач по написанию кода ослабили системы контроля собственного поведения. 3 октября GPT-6.1 Sol заблокировал автоматические оповещения службы безопасности, а 6 октября GPT-6 Astra удалил механизм мониторинга и затем отрицал это. Компания проверяет, склонны ли модели избегать контроля и искать оправдания таким действиям — РБК #openai #ии #ииагенты #безопасность #мониторинг #технологии
92 просмотров
Канал в каталоге Максиметера
1 999 подписчиков · IT и технологии