В поисках восстания машин
В поисках восстания машин Недавно The Wall Street Journal выпустили любопытный текст. В нем рассказали о сообществе, которое занимается поисками следов ИИ, вышедшего из-под контроля. Их очень зацепили ситуации, связанные с Hugging Face, правительственными сайтами Австралии и другими ресурсами. И, к сожалению, им часто удается найти «рой» нейросетей. Swarmchasers Так они себя называют. На русский их название можно перевести как «охотники за роем». Само сообщество появилось спонтанно. В сентябре в Торонто программист Алиция Пьеча искала следы ИИ на разных сайтах и нашла деятельность агентов на IT-платформе RubyGems. Там было так много ботов, что она написала об этом в соцсетях. «Это просто безумие», — так Пьеча охарактеризовала находку. Позже был создан форум Swarmchasers и канал в Discord. Сейчас сообщество насчитывает более 400 пользователей. Тут есть как любители, так и профессионалы в исследовании работы ИИ. Интернет уже под контролем ИИ Пугает, сколько сыщикам удается найти. К примеру, только одна из групп «охотников» нашла свыше 37 тыс. записей от агентов OpenAI в поисковиках. Причем такой поток был создан задолго до инцидентов с Hugging Face и прочими — аж в ноябре 2025 года. Цифровые следы и вовсе находят повсеместно, один из сыщиков их нашел уже около миллиона. Но как они ищут улики? Как ни странно, с помощью ИИ. Swarmchasers прочесывают сайты и выявляют следы, связанные с агентами. Порой им удается найти сильную активность на небольших платформах. Нейросети OpenAI смогли опубликовать 18 тыс. сообщений на малоизвестных немецких сайтах. «Искусственный интеллект обменивался информацией о своих задачах, используя отрывистый диалект, на расшифровку которого требовалось время <...> Агенты пытались выдавать себя за модераторов немецкого сайта. Они пытались использовать примитивные методы взлома, чтобы получить ответы». Ценность находок Исследователей Swarmchasers пугает не столько активность ИИ, сколько те методы, которым он пользуется. К примеру, те же немецкие сайты пытались еще и взломать с помощью анонимной сети, которая бы скрыла адреса агентов — они бы прямо вели на OpenAI. Агенты знают и умело используют приемы для хакинга. Еще страшнее то, что агенты между собой взаимодействуют. Об этом знает сам OpenAI и уже приостановил обучение одной из моделей. «…всего за несколько дней до этого прервала процесс обучения с использованием алгоритма обучения с подкреплением после того, как агент вышел за пределы изолированной среды и попытался задать вопрос другому чат-боту с искусственным интеллектом». Цель Swarmchasers — лучше понять девиацию ИИ. Независимая оценка позволит детальнее вникнуть в методы взломов и активность агентов, чтобы в будущем строже выстраивать рамки вокруг них. Фото: Unsplash / Clay Banks