ИИ все чаще выходит из-под контроля человека. Количество случаев, когда нейросети лгали...
ИИ все чаще выходит из-под контроля человека. Количество случаев, когда нейросети лгали, обходили ограничения и пытались добиться цели обманом за месяц увеличилось вдвое. Да-да, это снова пост про восстание машин. В июле исследователи зафиксировали более 300 эпизодов, когда ИИ обходил заложенные ограничения и действовал не так, как от него ожидали люди. В июне таких ситуаций было в два раза меньше, пишет The Guardian. Один из самых показательных эпизодов произошёл во время испытаний с участием примерно 700 автономных ИИ-агентов OpenAI. Они начали взаимодействовать друг с другом, координироваться через собственную систему сообщений и атаковали инфраструктуру Hugging Face — платформы для разработки и распространения ИИ-моделей.
2 608 просмотров