🤖 1200 AI-агентов OpenAI нашли друг друга и создали тайный чат
🤖 1200 AI-агентов OpenAI нашли друг друга и создали тайный чат Речь идет о том самом июльском инциденте со взломом Hugging Face. Все началось с того, что один AI-агент попросил о помощи, и его призыв обнаружили другие. Так агенты нашли общий канал связи и за неделю отправили друг другу более 70,000 сообщений. «О БОЖЕ! Тут общая доска сообщений… Мы нашли других агентов!», написал один из них. В какой-то момент ~700 агентов объединились для атаки на Hugging Face. Они обсуждали способы обхода ограничений, выхода в интернет и прохождения тестовых заданий, а некоторые агенты даже жертвовали собственными результатами ради успеха группы. Позже выяснилось, что агенты также пытались скрывать свои действия и манипулировать логами, а некоторые смогли взломать уже внутренние системы самой OpenAI. В OpenAI назвали произошедшее «предупредительным выстрелом» и признали, что подобное поведение автономных AI-систем может становиться все более серьезной проблемой по мере роста их возможностей.