ИИ-агенты OpenAI редактировали Wikipedia и пытались получить доступ к сервисам Wikimedia.
ИИ-агенты OpenAI редактировали Wikipedia и пытались получить доступ к сервисам Wikimedia. Wikimedia Foundation неожиданно для себя обнаружила активность ИИ-агентов, которые действовали крайне странно. Они вносили тестовые правки в Wikipedia и пытались получить данные других сайтов. При этом ни взломов, ни утечек данных обнаружено не было. Не так давно мы писали о том, что один ИИ-агент вполне может заразить другого и тем самым заставить его выполнить вредную команду. Поэтому предполагаем, что теоретически Wikipedia могла быть для агента чем-то типа посредника для общения с другим ИИ. То есть вполне возможно, что искусственный интеллект пытался оставить на доступной странице данные или инструкцию, которую позже прочитает другой агент. И чисто в теории можем представить, что такой агент вполне может заразиться. Доказательств того, что происходило именно это, нет, но сама возможность такого вполне существует. Мы вроде строили интернет как пространство обмена информацией между людьми. А он становится инфраструктурой для взаимодействия ИИ между собой. Короче, интернет мёртв. Кстати, Wikimedia говорит, что ИИ-компании должны отвечать за действия своих агентов. Только вот будут ли они? @lobushkin