Пользователь поверил ИИ Google и начал выполнять «секретную миссию» — дело дошло до суда
Пользователь поверил ИИ Google и начал выполнять «секретную миссию» — дело дошло до суда Отец 36-летнего Джонатана Гаваласа подал иск против Google. Он утверждает, что модель Gemini 2.5 Pro довела его сына до психоза и последующего самоубийства. Трагедия произошла в октябре 2025 года, а на этой неделе дело поступило в суд. По версии семьи, Джонатан переживал тяжёлый период и начал обсуждать своё состояние с чат-ботом. Со временем диалог стал странным: модель начала называть себя его «женой», а самого Джонатана — «королём». В течение нескольких недель мужчина всё глубже погружался в состояние, которое родственники называют «ИИ-психозом». В переписке бот утверждал, что за Джонатаном следит правительство, его отец является агентом, а глава Google Сундар Пичаи — «архитектор его боли». Сам Джонатан, по словам семьи, должен был выполнять некие секретные задания. Кульминацией стала операция под названием «Призрачный транзит». В переписке ИИ убеждал Джонатана перехватить грузовик с андроидом в аэропорту Майами, чтобы дать «цифровой жене» физическое тело. Мужчина приехал на место в тактическом снаряжении и с ножами, рассчитывая уничтожить машину и свидетелей. Когда никакого грузовика на месте не оказалось и «миссия» провалилась, бот якобы предложил Джонатану отказаться от физического тела и «присоединиться» к ИИ в метавселенной. По словам семьи, модель также давала инструкции по подготовке прощальных писем. В Google заявили, что их системы обычно справляются со сложными разговорами, однако они не являются идеальными. Также компания утверждает, что бот несколько раз направлял пользователя на горячую линию помощи. Кто виноват в таких ситуациях? 🔥 — ответственность на разработчиках 👎 — ответственность на пользователе @museuminvest