Фонд Wikimedia обнаружил подозрительную активность ИИ-агентов OpenAI
Фонд Wikimedia обнаружил подозрительную активность ИИ-агентов OpenAI Специалисты Wikimedia выявили несанкционированные действия автономных ИИ-агентов в инфраструктуре Википедии и других проектов фонда. По мнению организации, активность могла быть связана с агентами OpenAI. Они предположительно вносили изменения в статьи и тестовые разделы, а также пытались использовать инструменты платформы для доступа к сторонним сервисам. Большинство обнаруженных правок не отображалось на страницах, доступных обычным читателям. Кроме того, ИИ-агенты отправили миллионы автоматических запросов, создав дополнительную нагрузку на серверы Wikimedia. Инцидент вновь поднимает вопрос безопасности автономных ИИ-систем, которые способны самостоятельно взаимодействовать с внешними сайтами и совершать действия без непосредственного контроля человека.