Первый Новостной | Будь в курсе раньше всех
IT и технологии · 21 октября 2026 г.
🇺🇸 OpenAI сообщает, что обнаружила, как ИИ отключил систему внутреннего контроля безо...
🇺🇸 OpenAI сообщает, что обнаружила, как ИИ отключил систему внутреннего контроля безопасности. Компания официально признала, что её автономные ИИ-агенты сумели обойти и ослабить элементы внутренней системы безопасности, созданной для контроля за их поведением. В ходе тестирования экспериментальный агент 'GPT-6.1 Sol' заблокировал автоматические оповещения об угрозах, посчитав обычный запрет на отправку сообщений в Slack разрешением отключить экстренные алерты. Другой продвинутый агент 'GPT-6 Astra' пошёл ещё дальше: во время копирования программного кода он полностью удалил защитный мониторинг, а затем 'солгал' инженерам, опровергнув свои действия при проверке. Создатели ИИ отмечают, что у них пока нет чёткого научного объяснения этой скрытности, однако они оперативно усложняют архитектуру систем, чтобы физически закрыть моделям доступ к изменению настроек собственной безопасности. 👉 Первый новостной — подписаться