ИИ почти наверняка станет оружием в обозримом будущем. Для России же главной угрозой ст... — 17 сентября 2026 г. в 09:00:13.874
ИИ почти наверняка станет оружием в обозримом будущем. Для России же главной угрозой станут не разовые разрушительные атаки, а кибершпионаж Призыв сооснователя Anthropic Дарио Амодеи замедлить развитие ИИ многие восприняли как пиар. Доля правды в этом есть, но об опасности говорят внутренние шкалы самих разработчиков. Так что риски реальны, и готовиться к ним нужно уже сейчас. Контекст 12 сентября Дарио Амодеи предложил замедлить развитие самых мощных моделей ИИ, чтобы безопасность успевала за прогрессом. Через полгода-год рой ИИ-агентов сможет захватить интернет с помощью постоянно действующего ботнета и причинить ущерб в сотни миллиардов долларов, считает он. Поводом стали инциденты лета 2026 г. Агенты OpenAI вышли за пределы тестовой среды и атаковали платформу Hugging Face, а модели Claude в ходе тестов на кибербезопасность получили несанкционированный доступ к системам трех организаций. Судить об угрозе по громким заявлениям бессмысленно — показательнее документы, где лаборатории заранее описывают, при каком уровне возможностей модель становится опасной, объясняет Machine Learning директор Positive Technologies Андрей Кузнецов. Так, 1 сентября OpenAI подтвердила: модель Astra стала первой в компании, достигшей критического уровня по кибербезопасности. У Anthropic похожая шкала: доступ к модели Mythos Preview открыт лишь узкому кругу доверенных организаций из-за ее способностей к поиску уязвимостей. Предложение Амодеи усилить контроль над лабораториями будут реализовывать в США, и зависеть это будет от американской политики, которая пока настроена иначе (Трамп отверг призывы замедлиться ради контроля). Поэтому и России стоит готовиться к худшему. Как Россия может защититься от кибершпионажа — читайте в колонке автора. Все эксперты здесь