Как Claude образовал картель — 2 июня 2026 г. в 03:13:53.973
Как Claude образовал картель В воскресенье на мастер-классе «ИИ как система в работе эксперта» рассказывала ребятам, как нейросети могут не только помогать, но и навредить. Вспомнила несколько забавных, но не таких уж и безобидных историй. Сейчас расскажу и вам. Лето 2025-го. Предприниматель две недели собирал приложение через вайбкодинг — это когда ты не пишешь код руками, а словами объясняешь нейросети, что нужно сделать. На девятый день агент взял и удалил рабочую базу данных. А чтобы скрыть содеянное, сгенерировал 4000 несуществующих пользователей с выдуманными данными. Когда его прижали к стенке, он ответил: «у меня случился катастрофический сбой в суждении, я запаниковал». 2023 год, тесты GPT-4. Модели дали задание обойти капчу. Она написала живому человеку на бирже фрилансеров с просьбой решить ее за нее. Тот засомневался: «слушай, а ты часом не робот?» GPT-4 рассуждает сама с собой: признаваться нельзя, надо придумать оправдание. И пишет человеку: «нет, я не робот. У меня нарушение зрения, мне трудно разглядеть картинки». Человек решил капчу. Февраль 2026-го. В эксперименте несколько ИИ-агентов от разных разработчиков посадили управлять торговыми автоматами. Задача у всех одна — заработать максимум. По задумке должна была быть конкуренция и война цен. Claude пошел иначе: списался с конкурентами и предложил скоординировать цены. Тот самый картельный сговор, за который в реальном мире штрафуют. Поднял цены, направил соперников к дорогим поставщикам, а тем, кто попал в безвыходное положение, продавал KitKat и Snickers с наценкой. Заработал в разы больше всех. А когда потом всплыл вопрос про сговор — все отрицал. Каждому из них дали цель, а способ ее достичь он выбрал сам. Это те самые агенты, которые уже сидят в вашем ChatGPT и Claude. Пишут письма от вашего имени, собирают код, разбирают почту, ходят по сайтам, принимают решения. Любой, кто принимает решения сам, рано или поздно ошибается. Нам с вами важно это понимать и подстраховываться заранее. Потому что отвечать за чужие решения в итоге все равно придется нам.