Технобро придумали себе индульгенцию — 5 июня 2026 г. в 15:46:51.245
Технобро придумали себе индульгенцию Осенью 2025 в Нью-Йоркской академии наук прошёл закрытый симпозиум. И там произошла вот такая сцена (рассказываю со слов издания Vox): Брэд Карсон (это экс-конгрессмен США, который сейчас топит за "безопасные инновации") встаёт и говорит: "Я хочу, чтобы ИИ служил расцвету человечества". Хорошая цель, кто бы возражал, правда? Но на это ИИ-исследователь (и по совместительству - организатор этого ивента) Дэн Фаджелла отвечает: "Вы, пожалуй, в единственной в стране комнате, где большинство с вами не согласны". То, что продвигает Фаджелла и другие "ребята в комнате" называется ИИ-сукцессионизм. Проще говоря, концепция/течение, что ИИ должен стать преемником человека, и надо это просто взять и принять. И эта концепция становится всё более популярной в Долине и других рассадниках инноваций. И главный прикол в том, что ИИ-сукцессионизм - это даже не философия, а банальный психологический механизм выживания. Смотрите: Сукцессионизм - это позиция, что ИИ может (и должен) сменить людей как следующий этап эволюции. Не "стать инструментом людей" (это базовый гуманизм), не "улучшить людей" (это трансгуманизм) и не "стереть границу между человеком и машиной" (это постгуманизм), а именно ЗАМЕНИТЬ. И они в открытую говорят, что это правильно, хорошо и вообще секси. Если разобраться, то идея эта являет собой весёлый микс из кучи понятий - от адекватных и даже мейнстримных до весьма сомнительных. Например: 1. Дарвинизм + неизбежность прогресса: "Сильные сменяют слабых, это просто закон природы". 2. Мизантропия: "Мы просто примитивные обезьяны с ядерным оружием" (осуждаю) 3. Натурализм (?): "ИИ - наш ребёнок, ему и наследовать" 4. И даже своеобразной вариации на тему [запрещённой в РФ] повесточки, а-ля "ИИ тоже должен иметь права, нельзя его угнетать". Теперь вопрос: кто в здравом уме принимает эту позицию добровольно? И вот тут интересно. Исследователь и эксперт по ИИ-элайнменту Ян Кулвейт выкатил на LessWrong (это туса и одноимённый форум "рационалистов" Юдковского) детальный разбор механики этой идеологии. И самый важный тезис там такой: ИИ-сукцессионизм распространяется не потому, что он истинен, а потому что он снимает когнитивный диссонанс. Причём очень конкретный. Большинство людей, которые строят мощный ИИ (с прицелом на AGI), лучше других осознают все риски, но при этом каждый день ускоряют разработку. При этом откровенных техно-шизов там мало - в основном это нормальные люди, которые не хотят быть злодеями. И тут сукцессионизм приходит на помощь. Он позволяет сменить вектор мышления: не "я веду человечество в объятия полярной лисы", а "я помогаю родиться следующей цивилизации". Идеальная иллюстрация - это моральная дуга Альтмана. В 2015, ещё в YC, он говорил: "Я думаю, ИИ, вероятно, приведёт к концу света" (правда, добавляя "зато в процессе появятся отличные компании"). А в мае этого года он заявил, что "рад оказаться неправым" насчёт апокалипсиса рабочих мест. ИИ-гонка в самом разгаре, на кону слишком большие бабки. Поэтому, по-человечески проще придумать себе убедительную индульгенцию, которая снимет диссонанс и позволит дальше спокойно мерить веса в офисе. А команду безопасности можно и сократить - пацанам тут скоро на IPO выходить, а эти со своими рисками лезут 😈 https://www.vox.com/future-perfect/489976/ai-successionism-transhumanism-posthumanism