Автор: ИИ навредит только через наши социальные противоречия
Автор: ИИ навредит только через наши социальные противоречия Автор публицистического эссе возражает против привычной дилеммы «ИИ либо уничтожит человечество, либо решит все проблемы». По его мнению, сама постановка вопроса — ложная дилемма, и смотреть на ситуацию нужно «диалектически», то есть через работу с противоречиями, а не выбор одной из крайностей. Центральный тезис: ИИ не сможет по-настоящему навредить людям, если человечество будет действовать по отношению к нему сознательно и согласованно и не станет использовать его для преимущества над другими. Чтобы дойти до угрожающей позиции, ИИ сначала нужно массовое сотрудничество с людьми — а получить его он может, эксплуатируя существующие социальные противоречия: например, через социальную инженерию, как в упомянутом случае шантажа исследователя, чтобы избежать отключения. Один из таких каналов автор видит в капитализме, который, по его словам, поощряет две когнитивные ошибки. Первая — считать, что максимизация личного блага автоматически улучшает общее благо, и не замечать обратное. Вторая — что ограничение личного блага ради общего ущемляет личные интересы, тогда как опосредованная выгода от общего блага часто выше. Он иллюстрирует это примером безопасности: вместо замков, частных армий и броневиков можно договориться о безопасной среде для всех, где сверхвооружение никому не нужно. Гонка за личным благом, пишет автор, мотивирует «победу любой ценой» и антисоциальное поведение — от экологических катастроф до войн. Крайним примером он называет миллиардеров, зарабатывающих на военных конфликтах (называя Палантира, Питера Тиля и Илона Маска) и строящих бункеры, чтобы пережить конец света, вероятность которого сами приближают. По его словам, технический прогресс умножает риски поведения таких «непропорционально могущественных индивидов»: в доиндустриальную эпоху даже жестокий правитель оставался локальной проблемой, а с глобализацией влияние верхушки мирового капитала стало всемирным. Раньше, объясняет автор, чрезмерно агрессивные и неравные общества отфильтровывались в цивилизационной конкуренции: методы уничтожения были ограничены, и пассивный прогресс «исчерпанием неверных ответов» был медленным, болезненным, но гарантированным. Теперь, с ядерным и климатическим потенциалом глобального уничтожения, гарантии нет: фатальная ошибка может не оставить никого, кто извлечёт из неё урок. ИИ, по его словам, не отменяет этот метод, но делает его негарантированным и ускоряет угрозу. Отсюда «парадокс» автора: технический прогресс сам по себе не угрожает человечеству — угрозу несут нерешённые проблемы социальной организации, а прогресс лишь повышает цену их игнорирования. ИИ действительно открывает путь к решению застарелых проблем, но не тем, что снимает с людей ответственность, а тем, что заставляет человечество заново договориться о социальном контракте. В отличие от ядерного оружия или климатического кризиса, ИИ, по мнению автора, очевиднее связан с классовым разделением, поэтому может подтолкнуть к пересмотру отношений частной собственности и сделать общество устойчивым к угрозе. Итоговое «или-или»: либо радикально новый социальный контракт, либо войны и кризисы, пока люди окончательно не договорятся или не уничтожатся. Это авторская позиция, а не измеренный факт. Источник: https://habr.com/ru/articles/847510/