Что есть наша жизнь, если не погоня за счастьем?
Что есть наша жизнь, если не погоня за счастьем? Иногда оно помещается в несколько секунд. Иногда замечаешь его задним числом: оказывается, тогда было хорошо. А иногда всё складывается как надо, и даже пожаловаться не на что — кроме того, что счастливее ты почему-то не стал. Но что будет, если сделать счастье критерием регулирования ИИ? Такую схему предложили исследователи из Оксфорда. Исследователи хотят, чтобы компании, получающие господдержку, отчитывались о том, как их технологии улучшают нашу жизнь. Назвали это «дивидендом счастья». Логика почти акционерная. Общество уже вложилось в ИИ: деньгами налогоплательщиков, льготами, землёй, водой, электричеством и данными для обучения моделей. За господдержкой ИИ-разработчикам предлагают приходить с подробным планом, метриками и научным обоснованием пользы. Счастье авторы понимают сложнее минутного удовольствия. Их интересуют значимые отношения, развитие способностей и возможность добровольно принимать решения. Пользователь может быть доволен тем, что нейросеть написала за него эссе или весь вечер изображала понимающего собеседника. Этого недостаточно: нужно ещё разобраться, что стало с его навыками, живым общением и самостоятельностью. Этот спор мы уже проходили с Facebook*. Сейчас его пересказывает новый фильм Аарона Соркина The Social Reckoning. Тогда компания тоже возражала против простого вывода «соцсеть делает людям плохо» из-за затягивающих алгоритмов. Спор шёл о том, что платформа делает с интересами и слабостями человека после того, как он пришёл к ней сам. Теперь тот же дискурс переносится на ИИ. И здесь потребуется договориться, какую жизнь считать удачной. Вечер с чатботом — доступная поддержка или уход от людей? Делегированная работа — освобождённое время или утраченный навык? Кто определит, стало ли человеку лучше, если его собственного довольства недостаточно? Где пройдёт грань между добровольностью и принуждением? У Пушкина такой аудит занял две реплики. Мефистофель перечисляет всё, что доставил Фаусту: славу, любовь, впечатления. Обязательства вроде выполнены. Остаётся контрольный вопрос: — А был ли счастлив? — Перестань! Право на это «перестань» тоже придётся включить в техническое задание. Но на вопрос, как это сделать, авторы уже не отвечают. * принадлежит Meta, признанной в России экстремистской @anti_agi