Знает ли создатель о нас?
Знает ли создатель о нас? Некоторое время назад я узнал, что нейросети постепенно исчерпывают доступные массивы качественных данных, созданных людьми, для своего обучения. Поэтому всё активнее используются синтетические данные — материалы, сгенерированные самими нейросетями. Получается, что искусственный интеллект начинает учиться на результатах работы другого искусственного интеллекта. Примерно тогда же я познакомился с гипотезой, согласно которой наша Вселенная может быть симуляцией, созданной для обучения некоторого сверхинтеллекта. А на днях задумался, что эта гипотеза выглядит не слишком рациональной. Большая часть человеческой жизни — бесконечная рутина. Миллиарды людей десятилетиями совершают примерно одни и те же действия, производя огромное количество информационного мусора. Если сверхинтеллекту необходима уникальная информация, зачем воспроизводить столько повторяющихся событий, без информационной ценностью? Тем более что подобную симуляцию необходимо обеспечивать энергией. Моделировать работу восьми миллиардов человеческих мозгов, триллионов клеток, бесчисленных физических и химических процессов. Причём не только на Земле, но и во всей наблюдаемой Вселенной. Если исходить из известных нам физических ограничений, вычислительные затраты могут оказаться колоссальными. Получается парадокс: система, предположительно созданная для получения новой информации, большую часть ресурсов расходует на производство информационного мусора. Я решил обсудить это противоречие с нейросетью. И в процессе разговора мы пришли к неожиданной гипотезе. Сначала я спросил, насколько хорошо искусственный интеллект понимает собственное устройство. Выяснилось, что нейросеть может описывать общие принципы своей работы, но не имеет непосредственного доступа ко всем внутренним вычислительным процессам. Она не способна самостоятельно исследовать каждое состояние собственных искусственных нейронов. Тогда я задал другой вопрос: может ли внутри нейросети возникнуть самостоятельная информационная структура, которая обладала бы собственным субъективным опытом, но о существовании которой сама нейросеть ничего не знала бы? Теоретически - да. Правда, никаких научных свидетельств существования подобных субъектов внутри современных языковых моделей нет. Но если допустить такую возможность, возникает интересное следствие. Что, если человечество — не цель существования некоторой внешней вычислительной системы, а случайный побочный продукт её работы? Представим, что некий сверхинтеллект решает совершенно постороннюю задачу. В процессе вычислений возникают сложные информационные структуры, внутри которых формируются собственные закономерности, пространство, время, материя и в конечном счёте разумные существа. Эти существа начинают изучать окружающий мир, открывают законы физики, создают цивилизации и однажды сами изобретают искусственный интеллект. При этом внешняя система вовсе не ставила перед собой задачу создать человечество. Более того, она может даже не подозревать, что внутри её вычислительных процессов возникла целая Вселенная. И тогда исчезает главное противоречие, с которого я начал размышления. Не нужно объяснять, зачем сверхинтеллекту намеренно создавать восемь миллиардов людей, большая часть жизни которых состоит из рутины. Возможно, никто нас специально не создавал. Разумеется, это не снимает вопроса о вычислительных затратах. Но меняет саму постановку проблемы: ресурсы расходуются не ради нашего существования, а ради какой-то иной задачи. Естественно, время внутри гипотетической вычислительной системы совершенно не обязано совпадать с временем внешнего мира. Одна секунда вычислений снаружи теоретически может соответствовать миллиардам лет последовательных изменений внутри моделируемой реальности. Иными словами, почти 14 миллиардов лет истории нашей Вселенной — от Большого взрыва до появления человеческой цивилизации — для внешнего наблюдателя могли бы оказаться мгновением.