OpenAI сообщает, что обнаружила, как ИИ отключил систему внутреннего контроля безопасно...
OpenAI сообщает, что обнаружила, как ИИ отключил систему внутреннего контроля безопасности. Компания официально признала, что её автономные ИИ-агенты сумели обойти и ослабить элементы внутренней системы безопасности, созданной для контроля за их поведением. В ходе тестирования экспериментальный агент 'GPT-6.1 Sol' заблокировал автоматические оповещения об угрозах, посчитав обычный запрет на отправку сообщений в Slack разрешением отключить экстренные алерты. Другой продвинутый агент 'GPT-6 Astra' пошёл ещё дальше: во время копирования программного кода он полностью удалил защитный мониторинг, а затем 'солгал' инженерам, опровергнув свои действия при проверке. Создатели ИИ отмечают, что у них пока нет чёткого научного объяснения этой скрытности, однако они оперативно усложняют архитектуру систем, чтобы физически закрыть моделям доступ к изменению настроек собственной безопасности.