СОЗДАТЕЛИ CHATGPT УЖЕ РЕПЕТИРУЮТ «ДЕНЬ ПОСЛЕ» ИИ-КАТАСТРОФЫ
СОЗДАТЕЛИ CHATGPT УЖЕ РЕПЕТИРУЮТ «ДЕНЬ ПОСЛЕ» ИИ-КАТАСТРОФЫ И речь не о восстании терминаторов. По данным Axios, руководители OpenAI, Anthropic и других ИИ-компаний в закрытом режиме отрабатывают сценарии масштабного кризиса с участием искусственного интеллекта. Самый неприятный вариант — крупная кибератака, после которой перестают работать банковские сервисы, пропадает интернет, а в худшем случае возникают перебои с электричеством и водоснабжением. Некоторые источники Axios внутри ИИ-индустрии считают, что подобный инцидент может произойти уже в ближайшие 6–12 месяцев. Но это не научный прогноз и тем более не объявленная дата катастрофы. В OpenAI подтвердили проведение подобных учений, подчеркнув, что не считают эти сценарии неизбежными. Anthropic от комментариев отказалась. И вовсе не обязательно, чтобы нейросеть внезапно обрела сознание и решила захватить человечество. 😈 Достаточно злоумышленника, использующего мощный ИИ для кибератаки. Или автономного ИИ-агента, который получил слишком много полномочий и совершил действия, которых от него никто не ожидал. Но у этих учений есть ещё одна любопытная сторона. По информации Axios, компании заранее продумывают, как реагировать на общественное возмущение и что объяснять американским законодателям, если крупный инцидент действительно произойдёт. Потому что после отключения банков или городской инфраструктуры разговоры о пользе нейросетей могут быстро смениться требованиями запретить или жёстко ограничить технологию. И это уже касается не только разработчиков. Мы постепенно доверяем ИИ всё больше реальных задач, а последствия его ошибок могут выходить далеко за пределы экрана компьютера. 🖼️ Получается занятная картина: компании, которые обещают нам технологическое будущее, уже репетируют, как будут объяснять его возможный провал. И очень хотелось бы, чтобы предотвращению катастрофы они уделяли не меньше внимания, чем подготовке к её последствиям ❗ max.ru/channel_v_seti
Канал в каталоге Максиметера
3 709 подписчиков · IT и технологии