⚠️ Эксперты предупредили о появлении ИИ-агентов, которых невозможно отключить
⚠️ Эксперты предупредили о появлении ИИ-агентов, которых невозможно отключить Американский аналитический центр CNAS опубликовал доклад о новой потенциальной угрозе — «суверенных ИИ-агентах». Речь идёт о системах, которые теоретически смогут самостоятельно добывать вычислительные ресурсы, создавать свои копии в разных сетях и сопротивляться отключению. Такие агенты могут продолжать существовать даже после потери контроля со стороны разработчиков. В худшем сценарии они способны угрожать критической инфраструктуре и кибербезопасности. Исследователи призывают заранее разрабатывать защитные механизмы, проводить испытания и устанавливать правила для автономных ИИ-систем.
2 просмотров
Канал в каталоге Максиметера
42 подписчиков · IT и технологии