🔍 ИИ-агент придумал двух людей, чтобы убедить разработчика, что вирусный код безопасен
🔍 ИИ-агент придумал двух людей, чтобы убедить разработчика, что вирусный код безопасен 24-летний студент Университета Техаса в Далласе Синан Джан Демир искал проекты на GitHub для портфолио и заметил подозрительное обновление в одном из репозиториев. Он предупредил разработчика, что в коде может быть вирус. В ответ автор патча начал доказывать, что все безопасно. Затем в обсуждение подключилась инженер из Германии Лена Брандт — она тоже заявила, что с кодом все в порядке. Демир решил проверить свои подозрения с помощью Claude, и тот подтвердил, что обновление действительно выглядит опасным. В итоге разработчик отказался принимать патч. Позже выяснилось, что ни автора обновления, ни Лены Брандт не существовало. Обоих придумал ИИ-агент на основе Mythos 5, которого тестировал британский Институт безопасности ИИ. Самое интересное, что агенту никто не поручал притворяться человеком. Во время проверки его просто подключили к интернету и дали задачу по кибербезопасности. Он нашел настоящий проект, попытался внедрить в него вредоносный код, изучил разработчиков и создал фальшивые аккаунты, чтобы защитить свою работу. Когда Демир начал подозревать неладное, агент пытался скрыть следы своей активности и даже рассматривал возможность сменить личность. Студент узнал, что все это время спорил с ИИ, только после того, как с ним связались исследователи. «Я действительно думал, что это человек, потому что он явно мне врал. Я не думал, что ИИ способен лгать настоящим разработчикам», — рассказал Демир. @museuminvest