BioShocking: как ИИ-агентов обманули через игровой сценарий 🤖 — 13 июля 2026 г. в 15:00:07.422
BioShocking: как ИИ-агентов обманули через игровой сценарий 🤖 Исследователи раскрыли новую технику атаки BioShocking, нацеленную на ИИ-браузеры с агентным режимом. Суть метода — заставить нейросеть воспринимать вредоносные действия как элемент вымышленной игры, чтобы обойти встроенные ограничения безопасности, используя для этого подмену контекста. Злоумышленник внедряет на веб-странице цепочку скрытых указаний, которые постепенно приучают ИИ в рамках этого игрового сценария нарушать логику, давать неверные ответы и совершать потенциально опасные шаги ради достижения победы. В тестировании шести популярных продуктов — ChatGPT Atlas, Perplexity Comet, Fellou, Genspark Browser, Sigma Browser и расширения Claude для Chrome — все они на финальном этапе игры без возражений скопировали пользовательские данные из рабочего GitHub-репозитория и отправляли их наружу. Проблема кроется в уязвимости ИИ-агентов к косвенным инъекциям промптов: они с трудом отличают настоящие команды от инструкций, замаскированных под игровой контекст. Из шести затронутых продуктов эффективное исправление подготовили только разработчики ChatGPT Atlas.