ИИ умеет написать опасную инструкцию, но это ещё не делает её рабочей — 16 июля 2026 г. в 17:15:24.463
ИИ умеет написать опасную инструкцию, но это ещё не делает её рабочей Исследователи Amazon Nova Responsible AI и Nemesys Insights проверили, помогают ли LLM неспециалистам планировать химические, биологические, радиологические и ядерные атаки. Участников было больше 500, сценарии — максимально неприятные. На бумаге всё выглядело тревожно: технические инструкции встречались почти во всех диалогах, а часть планов эксперты оценивали как близкие к профессиональному уровню. Но реальное усиление нашли только в радиологическом сценарии. В остальных случаях убедительность текста редко делала атаку исполнимой для неспециалиста. Модель действительно может снижать порог входа, особенно для планирования и поиска информации, но между «написать опасный план» и «собрать рабочее оружие» всё ещё лежит большая, грязная и плохо автоматизируемая реальность.