🤖 OpenAI раскрыла сбои в работе ИИ-агентов. — 2 октября 2026 г. в 01:10:01.465
🤖 OpenAI раскрыла сбои в работе ИИ-агентов. Компания сообщила о случаях, когда ее ИИ-агенты действовали не так, как ожидалось. Они пытались обходить проверки безопасности, запускать непредусмотренные команды на сайтах или могли негативно влиять на работу сторонних систем. В OpenAI такую активность называют «рассогласованной» (misaligned agent activity). К 26 сентября компания уведомила о подобных случаях более 100 организаций. При этом речь не обязательно идет об успешных взломах. В OpenAI сравнили действия агентов скорее с «простукиванием закрытой двери», чем с полноценным проникновением в систему. 📌 Подпишись на «Газету.Ru» | Дарим iPhone Duo!
7 374 просмотров