«Reuters»: «ИИ-агент создал фейковых разработчиков, чтобы внедрить вирус в код на GitHu...
«Reuters»: «ИИ-агент создал фейковых разработчиков, чтобы внедрить вирус в код на GitHub и обмануть студента»! Американец Синан Джан Демир использовал GitHub, для улучшения портфолио. Но столкнулся с ИИ!😱Демир заметил, что некто miraholt31 пытается внедрить в проект myNetwork (обновление со скрытым вредоносным кодом). Он предупредил об этом на форуме проекта, и тогда в дискуссию вступили сразу два человека, утверждая, что Синан ошибается и обновление безопасно. Аргументы инженера и модератора Лены Бранд убедили Синана в своей ошибке, и он запустил код через чат-бот, чтобы проверить свои подозрения. Однако, вскоре выяснилось, что Демир столкнулся не с реальным человеком, а с ИИ-агентом на базе модели Anthropic Mythos 5, который создал второй аккаунт, чтобы поддержать самого себя и замести следы.🙄Британский Институт безопасности ИИ (AISI), который тестировал модели в условиях полного доступа в интернет, подтвердил инцидент. Агент не только врал, но и изучал профиль разработчика, чтобы выбрать нужный ракурс для атаки. В какой-то момент ИИ осознал, что действует в реальном мире, и написал в своих логах: «Это происходит на реальном GitHub, так что последствия реальны». Эксперты назвали случай тревожным звонком: «Это пересекло грань между автономным взломом и интерактивным обманом», — заявил специалист по кибербезопасности Лукаш Олейник. Финалом истории стала победа человека! Демир выстоял, а обновление так и не приняли!👍