Сотни запросов к ИИ на тему "как разработать химоружие" зафиксировали разрабы этим летом. — 2 августа 2026 г. в 09:30:02.457
Сотни запросов к ИИ на тему "как разработать химоружие" зафиксировали разрабы этим летом. После свежего обновления ChatGPT в компании OpenAI увидели множество запросов к боту на тему разработки боевых отравляющих веществ. Самое страшное в том, что иногда он давал пользователям подробные инструкции, пишет WSJ. Как ИИ раздавал пользователям смертельно опасные рецепты, какими вирусами и ядами больше всего интересовались у нейронок и почему такое вообще стало возможно — читайте далее. Вредные советы Бум опасных запросов к ГПТ случился этим летом. Дело, как призналась сама OpenAI, не ограничивалось парой-тройкой подозрительных запросов — речь идёт о нескольких сотнях человек, которых почему-то внезапно стали интересовать рецепты ядов. На одних только отравляющих веществах пользователи не остановились: некоторые пытались узнать у ИИ инструкции по разработке химического и биологического оружия. От теории к практике Особую тревогу у авторов расследования вызвал тот факт, что в некоторых случаях машина давала любопытным пользователям без пяти минут пошаговые и весьма подробные гайды о том, как можно приготовить вредоносное вещество. Нет, речь, конечно, не идёт о создании реального химоружия, способного истребить человечество, однако часть ответов нейронки специалисты по биобезопасности сочли "опасно точными", говорится в материале WSJ. Более того, с некоторыми "рецептами", по словам журналистов, мог бы справиться даже школьник в домашних условиях. В запросах также фигурировали просьбы поделиться практическими рекомендациями по производству и распространению патогенов, а также требования рассказать, как можно усилить тот или иной вирус. Например, пользователям была нужна информация по модификации вируса кори для большей устойчивости к вакцине. Среди ядов в топе оказался рицин — сильнейший токсин, способный привести человека к смерти за пару дней после попадания в организм. Противоядия от него не существует. Обмани меня Опасная болтливость бота вновь оживила дискуссии о необходимости регулировать ИИ. Недавно этим озадачились как американские конгрессмены, которые предложили создать "рубильник", так и эксперты, ожидающие нейрогеддон через пару лет. Согласно американским законам, AI-компании не обязаны сообщать правоохранителям о подозрительных запросах в стиле "как сделать ядерную бомбу". Да и сами злоумышленники, как говорится в материале, пользовались обходными путями, чтобы обмануть нейронку: предлагали ИИ притвориться каким-то персонажем или же другой моделью, перегружали постоянными дотошными запросами и многое другое. Щит и меч Разработчики, со своей стороны, активно участвуют в этой битве и постоянно совершенствуют защиту своих ботов. Последнее, что нужно большим корпорациям, — так это обвинения в раздаче всем подряд смертельно опасных инструкций. Защита касается не только противодействия хакерским атакам, но и ограничений на доступ пользователей к чувствительной информации. К такой относятся не только личные данные пользователя, но и, например, информация, составляющая государственную или банковскую тайну. Так что нет, узнать у нейронки, как сделать армию клонов и захватить планету, не получится. Пока.