ИИ мог бы принести обществу огромные выгоды, но пока более вероятно, что человечество п...
ИИ мог бы принести обществу огромные выгоды, но пока более вероятно, что человечество потеряет контроль, и это приведёт к его вымиранию. Об этом заявил Джейкоб Коксон на слушаниях в городском совете Нью-Йорка — бывший исследователь Anthropic. Ранее он уволился из-за таких опасений. • Коксон отметил, что разработчики сейчас действуют по принципу 'быстро двигаемся, ломаем, чиним потом': - “Это подходит для приложения для обмена фотографиями. Но не для создания самой мощной технологии в мире” • люди уже не понимают мотивов ИИ и причин, по которым он действует, подчёркивает экс-исследователь: - “Мы приближаемся к тому моменту, когда системы искусственного интеллекта смогут самосовершенствоваться” • бывший сотрудник Google DeepMind Алекс Тернер добавил: - “Сверхинтеллектуальный рой мог бы захватить контроль над человеческой цивилизацией. Он знал бы, что мы попытаемся помешать ему реализовать его приоритеты, поэтому, скорее всего, выждал бы до момента, когда отключить его будет уже слишком поздно — пути назад не будет. Лично я оцениваю шансы на захват власти ИИ примерно в один к трём”