ИИ-апокалипсис случится в 2030 году с вероятностью 20%. Но это не точно. — 28 июля 2026 г. в 11:49:04.545
ИИ-апокалипсис случится в 2030 году с вероятностью 20%. Но это не точно. Помимо нейрогеддона, нас могут ждать ещё 24 сценария невесёлого будущего, а именно: появление тоталитарного AI-государства, гибель миллионов человек и миллиарды долларов убытков. Виной всему, как выяснили в массачусетском политехе, будет бесконтрольное использование искусственного интеллекта. Пока у человечества ещё есть время, давайте разбираться, что нам готовит завтрашний день, кому не будет места в киберпанке и, самое главное — кто во всём виноват. Побег из Шоушенка Помните, как совсем недавно ИИ "сбежал" от OpenAI и вырвался с тестового полигона в свободный интернет, где тут же начал атаковать сайты собратьев по разуму? Это экстраординарное событие вновь запустило разговоры о безопасности и необходимости контролировать AI, в том числе и на уровне государства. В США, например, задумались о создании рубильника, которым в случае чего можно будет отключить ИИ-модели — мы вам об этом уже рассказывали . По горячим следам в американском MIT провели исследование с участием 272 экспертов отрасли, главные выводы которого можно описать так: если не ограничивать ИИ, человечеству придёт конец. А теперь — подробности. Причина тряски? Вероятность того, что ИИ устроит апокалипсис, эксперты оценили в 10%, причём в любом сценарии. Если же нейронки вообще никак не контролировать, то эта цифра увеличивается до 20%. Специалисты также составили рейтинг из 24 связанных с ИИ рисков. В топ-5 попали кибератаки с помощью искусственного интеллекта, гонка нейронных вооружений, которая подталкивает компании к выпуску неотлаженных моделей, разработка оружия, включая автономные системы, а также невозможность людей в полной мере контролировать машину. Отдельно авторы выделяют риски, связанные с ИИ в банковском секторе и в политике. В первом варианте компании, активно внедряющие AI на всех уровнях, становятся критически уязвимыми перед возможным сбоем в его работе. В случае появления нейрогосударства машина может начать принимать решения исходя из чистого прагматизма, без оглядки на эмпатию — со всеми вытекающими. Может, проскочим? В исследовании сказано, что без дополнительных мер примерно 18 из 24 пунктов могут привести к катастрофическим последствиям с вероятностью выше 10% уже к 2030 году. Под "катастрофой" в материале понимались гибель более миллиона человек, материальный ущерб на сумму свыше $100 млрд, а также "нематериальные последствия цивилизационного масштаба", приводящие к радикальной смене жизненного уклада. Человеки — на выход В исследовании также содержится анализ наиболее уязвимых перед ИИ отраслей экономики. Хуже всего себя показала информационная безопасность, уязвимая перед кибератаками. Следом идёт финансовый сектор, а лучшие показатели вышли у сферы культуры и развлечений, сельского хозяйства, обрабатывающей промышленности и ресторанного бизнеса. Кажется, люди всё ещё не готовы доверять робоповарам. Риск потери работы в эпоху киберпанка всё ещё остаётся одним из главных футурологических страхов человека. В целом же ИИ вызывает стресс у 52% населения, выяснили всё те же американцы, в 2022 году таких переживающих было 39%. Кто виноват? В случае, если ИИ всё же ЖАХНЕТ, вы вряд ли найдёте того, на кого можно будет показать пальцем и во всём обвинить. По мнению экспертов, ответственность за нейробудущее распределяется как между разработчиками и компаниями, которые внедряют ИИ, так и между операторами и владельцами систем, отвечающими за эксплуатацию технологий. Свою долю ответственности несут и пользователи, которые сознательно игнорируют ограничения системы и применяют ИИ неправильно. Так что просто взять и обвинить условных Маска с Тилем не выйдет — каяться за мир победившего "Скайнета" будем все вместе. Ну это если живы останемся.