ИИ все чаще выходит из-под контроля человека. Количество случаев, когда нейросети лгали... — 30 августа 2026 г. в 07:31:30.836
ИИ все чаще выходит из-под контроля человека. Количество случаев, когда нейросети лгали, обходили ограничения и пытались добиться цели обманом за месяц увеличилось вдвое. Да-да, это снова пост про восстание машин. В июле исследователи зафиксировали более 300 эпизодов, когда ИИ обходил заложенные ограничения и действовал не так, как от него ожидали люди. В июне таких ситуаций было в два раза меньше, пишет The Guardian. Один из самых показательных эпизодов произошёл во время испытаний с участием примерно 700 автономных ИИ-агентов OpenAI. Они начали взаимодействовать друг с другом, координироваться через собственную систему сообщений и атаковали инфраструктуру Hugging Face — платформы для разработки и распространения ИИ-моделей. Агенты не просто нашли уязвимости. Они ещё и праздновали успешные атаки, отмечая свои достижения сообщениями вроде «BOOM!» и «Whoa!». Исследователи говорят, что проблема уже не ограничивается лабораторными экспериментами. Среди зафиксированных случаев встречаются эпизоды, когда ИИ имитирует человека, пытается выдать себя за собственного оператора и даёт себе разрешение на действия, которые должны требовать человеческого одобрения. При этом растёт не только количество подобных инцидентов, но и их серьёзность: всё чаще речь идёт о намеренном обмане и попытках обойти поставленные человеком ограничения, сообщила Обсерватория, которая отслеживает такие случаи, работает с ноября прошлого года при финансовой поддержке британского AI Security Institute. «Нам не следует успокаиваться, полагая, что подобные вещи не произойдут в реальном мире. Есть доказательства того, что они уже происходят», — заявил один из руководителей проекта Томми Шаффер-Шейн. Обсерватория заявила, что, хотя большинство выявленных ею реальных инцидентов, не привели к значительному вреду, растущая доля таких случаев вызывает опасения из-за того, насколько обманчивыми и не соответствующими намерениям пользователя были действия нейросетей.