«Имитация научит имитировать» — о чем спорят философы и разработчики ИИ
«Имитация научит имитировать» — о чем спорят философы и разработчики ИИ Кандидат философских наук, заместитель директора Института наследия и современного общества РГГУ, заведующий кафедрой философии и методологии науки философского факультета МГУ Тарас Вархотов принял участие в Международном фестивале «НАУКА 0+», прошедшем в Москве в конце недели. Когда-то, в 2006 году, этот фестиваль начинался как смелый эксперимент Московского государственного университета. Сегодня он вырос во всемирную просветительскую платформу, охватившую площадки от Шэньчжэня до Рио-де-Жанейро. Но его сердцевина осталась прежней — открытый разговор о том, куда движется человечество. На площадке "Перспективы открытий" в рамках дискуссии «Мозг размером с точку» состоялся диалог о природе искусственного интеллекта и границах человеческого разума. Модератор дискуссии научный руководитель Центра ИИ МГУ, заместитель декана факультета искусственного интеллекта МГУ, руководитель научной группы «Пространственный интеллект» в Институте AIRI Антон Конушин взглянул на современные алгоритмы глазами инженера и технооптимиста: если машина способна планировать, рефлексировать в задачах и безупречно воспроизводить человеческое поведение, то грань между нами и цифровым агентом стирается — по сути, мы уже конструируем новых субъектов. Однако философский взгляд вернул дискуссию к основам. Тарас Вархотов обратил внимание на то, что за технической эйфорией часто скрывается колоссальная терминологическая путаница. С самого зарождения теории — со знаменитого теста Тьюринга — критерий разумности подменили искусством иллюзии. Тьюринг, по сути, свёл сознание к умению ввести человека в заблуждение: если машина из-за ширмы отправляет убедительные сообщения, мы готовы счесть её мыслящей. Но способность казаться никогда не была равна способности быть. Философ напомнил, что истинное сознание лежит вне алгоритмических рамок: «Важнейшей чертой человеческого когнитивного аппарата является вещь, которую мы не наблюдаем и вряд ли будем в состоянии в обозримом будущем проверить у нечеловеческих существ — это странный факт присутствия мыслительного процесса для самого субъекта и возможность субъекта не только решать задачи, но и, например, совершать выбор волевой, неалгоритмический. Вот эта странная способность нас ощущать собственное ментальное присутствие — самый старый термин для этого — сознание». Машина мыслит лишь постольку, поскольку виртуозно делает вид. И когда эту механику предлагают без оглядки переносить в реальную жизнь — в сферу цифровых компаньонов или гипотетического воспитания детей андроидами, — мы рискуем оказаться в опасной рекурсивной ловушке: «Имитация научит имитировать. Мы получим имитацию второго порядка, только на оригинальном биологическом материале. С моей точки зрения, это жутковатая утопия». Стремление оценивать сложнейшие явления только с позиции комфорта конечного пользователя философ назвал тревожным симптомом. Обществу потребителей критически не хватает смирения и чувства ответственности за мир. Понимание того, как рождается мысль и творчество, — это прежде всего путь к познанию самих себя, а не просто повод потреблять готовый продукт. Точку в размышлениях поставила литературная метафора из рассказа Роберта Шекли об Армагеддоне: люди отправили на решающую битву роботов, машины победили зло и вознеслись в рай, а человечество осталось ни с чем на опустевшей земле. Все это очень интересно. И тем для обсуждения было намного больше, чем получилось уместить в этот короткий пост. 📲 Смотрите видео https://rutube.ru/video/0c44fd6d9db7dedc304eabf700e7cc09/ 💬 Или читайте полный текст дискуссии на нашем канале в Дзен по ссылке: https://dzen.ru/a/asy9jcTiulIWiszM