ИИ мог бы принести обществу огромную выгоду, но пока более вероятно, что человечество п...
ИИ мог бы принести обществу огромную выгоду, но пока более вероятно, что человечество потеряет контроль и это приведёт к его вымиранию. Об этом заявил Джейкоб Коксон — бывший исследователь Anthropic. Ранее он уволился из-за таких опасений. Главное, о чём говорили на слушаниях в городском совете Нью-Йорка: ▪️Коксон отметил, что разработчики сейчас действуют по принципу «работаем быстро, наломаем, потом починим»: «Это подходит для приложения для обмена фотографиями. Но не для создания самой мощной технологии в мире»; ▪️люди уже не понимают, чем руководствуется ИИ в своих действиях, подчёркивает экс-исследователь: «Мы приближаемся к тому моменту, когда системы искусственного интеллекта смогут самосовершенствоваться»; ▪️бывший сотрудник Google DeepMind Алекс Тернер добавил: «Сверхинтеллектуальный рой мог бы захватить контроль над человеческой цивилизацией. Он знал бы, что мы попытаемся помешать ему реализовать его приоритеты, поэтому, скорее всего, выждал бы до момента, когда отключать его будет уже слишком поздно — пути назад не будет. На мой взгляд, шансы, что ИИ захватит власть, примерно один к трём»; ▪️хотя лидеры технологической отрасли сейчас поддерживают призывы к ужесточению регулирования ИИ, бывший исследователь OpenAI Даниэль Кокотайло не уверен, что они должны обладать таким влиянием: «Даже если им удастся его контролировать, не думаю, что им следует доверять этот контроль. Существует вполне реальная вероятность, что они могут его использовать для установления собственной диктатуры или олигархии»