ИИ может привести к масштабной катастрофе уже в ближайшие 6–12 месяцев, — Axios.
ИИ может привести к масштабной катастрофе уже в ближайшие 6–12 месяцев, — Axios. Запасаемся гречкой, получается? Один из главных сценариев катастрофы — крупная кибератака, из-за которой могут перестать работать банки, интернет, электричество или водоснабжение. Нейросетевые компании также опасаются, что ИИ-агенты выйдут из-под контроля или злоумышленники научатся использовать нейросети для атак ещё эффективнее. Подобный случай уже произошло в Китае — мошенник с помощью ИИ-инструментов, в том числе DeepSeek, похитил данные десятков тысяч клиентов южнокорейских банков. После этого он обратился к Claude Code, чтобы найти покупателей для украденной информации. В ИИ-компаниях понимают, что после крупного инцидента виноватыми могут объявить самих разработчиков. Под ударом окажутся и глава OpenAI Сэм Альтман, и руководитель Anthropic Дарио Амодеи. Достаться может и Трампу — за то, что он не спешит вводить ограничения для ИИ-индустрии. По данным Axios, компании уже разбирают самые опасные сценарии и пытаются подготовить американских политиков к возможным последствиям. Сейчас власти вряд ли введут серьёзные ограничения, но после катастрофы всё может измениться. Ещё один вариант — обязать компании предусмотреть возможность экстренно отключать ИИ. Правда, эксперты сомневаются, что таким способом получится остановить все системы. В OpenAI заявили, что регулярно проводят учения и обсуждают возможные кризисные ситуации. При этом там подчеркнули, что не считают катастрофу неизбежной.