В ИНТЕРНЕТ ПРИШЁЛ НОВЫЙ ПОЛЬЗОВАТЕЛЬ. И ЭТО НЕ ЧЕЛОВЕК
В ИНТЕРНЕТ ПРИШЁЛ НОВЫЙ ПОЛЬЗОВАТЕЛЬ. И ЭТО НЕ ЧЕЛОВЕК Wikimedia Foundation, которая стоит за «Википедией», расследовала странную активность на своих сервисах и обнаружила ИИ-агентов, которых считает связанными с OpenAI. 😈 Это не очередная страшилка их серии «ИИ сам решил погулять по интернету» и натворил бед. Люди запускают такого агента с задачей, а дальше он уже сам решает, куда зайти, что нажать и какие инструменты использовать. И здесь начались сюрпризы Агенты вносили правки в вики, пытались использовать публичный Etherpad как прокси, исследовали его на уязвимости, отправили миллионы API-запросов и скачали миллионы страниц. Wikimedia считает, что эта нагрузка могла даже повлиять на частичный сбой Wikidata. 🤖 При этом взлома не было: системы не скомпрометировали, а попытки обойти ограничения не сработали. Но тут важнее другое. Интернет долго строили под людей, поисковых роботов и относительно тупых ботов. Теперь же появился новый тип пользователя: автономный ИИ с браузером, инструментами и целью. Человек говорит ему условно: «добудь информацию» или «реши задачу», а дальше агент сам выбирает маршрут. И может делать это не один раз, а тысячами попыток. Для человека очевидно: «не ломай сайт»; «не спамь миллионами запросов»; «если дверь закрыта — не ищи окно». Для агента всё это приходится прописывать отдельно, чего, естественно, никто не делает. И если таких систем станет много, интернет начнёт меняться уже под них: больше CAPTCHA, жёстче лимиты API, сильнее антибот-защита, меньше открытых данных. Мы долго делали сайты удобными для поисковиков и других автоматических систем. Теперь появляется обратная задача: ограничивать уже самих ИИ-агентов, чтобы они не создавали проблемы людям и сервисам. Следующий этап развития интернета — не научить машины лучше понимать сайты. А научить их не ломать всё вокруг, пока они пытаются выполнить задачу. max.ru/channel_v_seti