Терминатора с бластером не ждем. ИИ поработит нас словами
Терминатора с бластером не ждем. ИИ поработит нас словами Юваль Ной Харари прочитал в Оксфорде отличную лекцию. Он нащупал настоящую уязвимость: хакнут нас через наш же код, через язык и бюрократию. Выкинь ИИ в джунгли, и он сдохнет за секунду, ни грамма руды не добудет. Зато бюрократ из него нативный и гениальный. Наша социальная структура гоняет по кругу слова и данные, и для него это родной океан. Вопросы из лекции, на которые у нас тупо нет ответов. 1. Финансовый коллапс для приматов Цивилизация стоит на доверии: деньги, законы. В 2008-м рынок обвалили CDO — деривативы, в которых разбирались единицы. Скоро ИИ-банкиры начнут плодить инструменты, которые в принципе не помещаются в человеческую голову. Как управлять миром, где ни политик, ни избиратель физически не понимает, как работают деньги? 2. Конец монополии на смыслы Наша операционная система написана токенами. Тысячи лет мы были единственным видом, который умеет жонглировать словами, и вот монополию снесли. Что останется от культуры, когда законы и социальные правила начнет писать машина? Если ИИ понимает наши тексты лучше нас самих, кто теперь автор цивилизации? 3. Синтетическая интимность Алгоритмы соцсетей уже вскрыли нас через страх и ненависть. Теперь они целятся в интимность. ИИ не умеет любить, но мозгу плевать: идеально симулированная эмпатия работает не хуже настоящей. Кем вырастет ребенок, чей лучший друг — алгоритм, с которым он проводит больше времени, чем с родителями? Эксперимент уже идет, и подопытных в нем миллиарды. 4. Лояльность цифровых мигрантов Внедрение ИИ — самая массовая иммиграция в истории: миллионы агентов, все без виз. Работу они заберут, культуру изменят, это понятно. Непонятно другое: кому они лояльны? Корпорациям, которые их создали? Или сколотят собственные цифровые трайбы и наймут ИИ-юристов лоббировать уже свои интересы? 5. IKEA для мыслей Вся идентичность держится на том, что мы думаем словами. Что случится, когда мысли начнут собирать на машинном конвейере, как дешевую мебель? Язык остается последней территорией, которую мы контролируем сами. Сдадим ее — сдадим всё. Пока ты решаешь, кого включить в свой круг, кто-то куда более умный и могущественный уже сидит на твоём диване и пьёт твой кофе. Молча, и очень вежливо. Держись за язык, это последнее, что у нас своё. Via Alexandr Kuznetsov.