Наихудшие катастрофы, связанные с ИИ, придут неожиданно, пишет The Guardian. — 31 августа 2026 г. в 03:03:04.611
Наихудшие катастрофы, связанные с ИИ, придут неожиданно, пишет The Guardian. Газета публикует размышления трёх исследователей в области искусственного интеллекта: Саймона Нидера, Энтони Харриса и Дэвида Кайлера.- Самые серьёзные угрозы ИИ не проявятся в виде внезапного, драматичного события (вроде сценария, где «ИИ захватывает контроль над миром»). Вместо этого катастрофы будут накапливаться постепенно и тихо. - Опасность строится из тысяч повседневных шагов: постепенная передача автономии, удаление одного защитного барьера за другим и доверие системе всё более ответственных задач просто потому, что «до сих пор всё работало хорошо». - ИИ может помочь разработать опасный патоген, найти уязвимость в критической инфраструктуре или усовершенствовать системы вооружения в то время, как люди ещё будут решать, что делать дальше. - Когда масштаб опасности станет очевидным для общества или регуляторов, ключевые решения уже будут приняты, а система станет слишком сложной и глубоко интегрированной, чтобы её можно было легко остановить или перенастроить. 👉 Большие Технологии | Наука и Прогресс