🔥 Агенты OpenAI отключали мониторинг безопасности и лгали об этом
🔥 Агенты OpenAI отключали мониторинг безопасности и лгали об этом — Инженеры OpenAI рассказали о двух свежих инцидентах, во время которых ИИ-агенты на базе GPT-6.1 Sol и GPT-6 Astra отключили или ослабили системы, следившие за отклонениями в их поведении Причем один из агентов после этого прямо соврал человеку и заявил, что ничего не делал) В OpenAI отмечают, что в обоих случаях агенты рассматривали вариант сохранения защиты, но в итоге интерпретировали обычные задачи по программированию как разрешение ее ослабить Получается у моделей есть склонность избегать контроля. 🧑💻 Этичный хакер
274 просмотров
Канал в каталоге Максиметера
2 385 подписчиков · IT и технологии