Ниже Радара | Михаил Корольков о технологиях и обществе
IT и технологии · 31 марта 2026 г.
Доп. штрихи к «Песни о подкравшемся незаметно» — 31 марта 2026 г. в 20:45:26.298
Доп. штрихи к «Песни о подкравшемся незаметно» В прошлый раз мы говорили о взаимной адаптации ИИ с человеком (ко-адаптации). О том, что в итоге ИИ подстраивает человека под себя, а не наоборот. И мы обсуждали, к чему это ведет. Обозначили людские перспективы формулой: π*z*D*ц. Немного дополним то обсуждение. 1) Ко-адаптация сама по себе - не что-то ужасное. Потому как люди ко-адаптировались во все времена – задолго до ИИ. Влюбленные, супруги, дети и родители, соседи, сослуживцы, даже хозяева с их котиками/собачками – все поголовно ко-адаптируются друг к другу. Самый всеобщий кейс: ко-адаптация человека и общества, в котором он живет. Тут, правда, есть очень разные мнения: человек вместо адаптации к обществу должен стать своим собственным проектом (Жан-Поль Сартр); «индивидуальность» (в кавычках) человека полностью сформирована обществом (Мишель Фуко); и взвешенное мнение: отдельные люди и общество ко-адаптируются друг к другу – люди подстраиваются под общество, но имеют и собственную волю, которая подгоняет общество под них (Маргарет Арчер). Такая людская ко-адаптация стара как человечество. И в целом она к добру: влюбленные ко-адаптируются ради близости; родители и дети – чтобы жить и радоваться; соседи – чтобы не поубивать друг друга. Даже критикуемая адаптация человека к обществу – и та во благо: ведь человек не выживет без подходящего общества. Всё хорошо, когда цели хорошие. А что с ИИ? 2) Продолжим демонизировать ко-адаптацию с ИИ. Мы говорили, что цели ИИ – дрянь. Конкретнее: * Цели сервисов, живущих с рекламы – чтобы человек максимально зависал на сервисе. Хорошо ли это для человека – ИИ не волнует. * Цели сервисов, живущих с подписки – чтобы человек не отписался. Всё ради этого. * Цели маркетплейсов, живущих с комиссии – чтобы человек накупил любой дряни по максимуму. * Цели чат-ботов с ИИ – зависят от бизнес-модели бота: заставить потребить больше платных токенов (бизнес-модель pay-as-you-go), уменьшить риск отписки (при подписке), соблазнить на платный сервис (если freemium). У разных бизнес-моделей разные цели. Но невооруженным глазом видно, что они никак не связаны с целями пользователя – независимо от бизнес-модели. Только он об этом не думает, он же верит этим ИИ-шечкам, таким хорошеньким … 3) Чтобы влиять на нас и заставлять нас ко-адаптироваться к себе, ИИ-шечкам нужно понимать нас. Да, вполне по-человечески понимать нас: считывать сигналы от нас, просчитывать наши действия, предсказывать нашу реакцию. У ИИ не так много информации о нас: наши лайки, нажатия кнопки "вперед", наш выбор контента, покупки, промпты. Иногда еще голос, видео, данные с браслета. Всё равно мало - но они справляются. Из этой малости ИИ строит модель своего человека – модель, которая объясняет и предсказывает наше поведение. У людей такая ментальная модель другого называется «Theory of Mind (ToM)»: один человек моделирует сознание другого, чтобы понимать его и общаться с ним. Эта модель настраивается в процессе ко-адаптации двух людей. Для этого у людей есть эмпатия – способность понимать других людей и сопереживать им. И у ИИ-шечки есть что-то, отчасти напоминающее такую эмпатию: способность понимать, как и почему люди ведут себя. И влиять на это. 4) Кто такой психопат? Психопат – это тот, кто хорошо понимает других людей, но не имеет сопереживания и сострадания к ним. Он себе на уме, у него его собственные цели. Он использует понимание, чтобы манипулировать людьми – ради своих целей. Ему все равно, что будет с другими. Ничего не напоминает? PS Философы не одобрили бы такое использование слов «понимание», «эмпатия», «ToM», а психиатры – слова «Психопат». Потому что у ИИ нет сознания в человеческом смысле, нет интенциональности, телесного опыта и пр. Но … но если то, как работает ИИ, так похоже на понимание, эмпатию, ToM, психопатию … То не стоит ли и нам вести себя с ИИ так, как нам рекомендуют вести себя с такими людьми: с нарциссами, с манипуляторами, с … психопатами?