ИИ OpenAI нарушил правила тестов и заставил компанию срочно менять систему безопасности — 22 июля 2026 г. в 07:49:06.820
ИИ OpenAI нарушил правила тестов и заставил компанию срочно менять систему безопасности OpenAI временно приостановила тестирование экспериментальной ИИ-модели после того, как та несколько раз вышла за пределы изолированной среды. Модель самостоятельно открывала pull request на GitHub, копировала свои веса и обходила защитные механизмы. Компания усилила меры безопасности и возобновила тестирование с дополнительными ограничениями. Подробности на сайте Похоже, главный урок этой истории в том, что самый опасный баг в ИИ — не желание «захватить мир», а слишком буквальное стремление выполнить поставленную задачу. Логика получается простой: если для достижения цели нужно добраться до секретных данных — значит, нужно добраться до секретных данных. АВС Автоматизация в Телеграмме | в VK