Бог, человек, животное, машина. Технология, метафора и поиск смысла - Меган О'Гиблин Страница 4

построенная Богом или человеком, должна в какой-то форме служить ее примером", - такую аналогию, которая требовала бы игнорирования многих сложностей, отличающих разум от машины. Его теория была особенно расплывчатой, когда речь заходила о том, как вычисления привели к появлению феномена внутреннего опыта - способности видеть, чувствовать, испытывать ощущение самосознания. Хотя машины могут воспроизводить многие функциональные свойства познания - предсказание, распознавание образов, решение математических теорем, - эти процессы не сопровождаются каким-либо опытом от первого лица. Компьютер просто манипулирует символами, слепо следуя инструкциям, не понимая ни содержания этих инструкций, ни концепций, которые эти символы должны представлять.

Представление Маккалоха о том, что разум - это информационная система, может показаться интуитивно понятным, пока мы придерживаемся нашего повседневного понимания "информации". В повседневной речи мы склонны думать об информации как о чем-то, что по своей сути содержит значимое содержание, которое должно быть интерпретировано сознательным субъектом. Информация, содержащаяся в газете, имеет значение только для разумного человека, читающего эти слова. Набор данных существует только как информация для ученого, который его понимает. Но работа Маккалоха совпала с появлением новой теории информации, которая значительно расходилась с этим общепринятым пониманием. Клод Шеннон, отец теории информации, дал новое определение информации, исключающее необходимость в сознательном субъекте. Все языки можно разделить на два аспекта: синтаксис (структура языка, его форма) и семантику (его содержание, или смысл). Гений Шеннона заключался в том, чтобы убрать семантический смысл, который не поддавался количественной оценке, и таким образом информация стала чисто математической, определяемой закономерностями и вероятностями. Информация создавалась, когда из возможного набора сообщений выбиралось одно. Часто, писал Шеннон в 1948 году, "сообщения имеют смысл", но эти семантические аспекты коммуникации "не имеют отношения к инженерной проблеме". В зарождающемся ландшафте систем обработки информации логические предложения можно было свести к математическим уравнениям, а компьютеры могли выполнять их как чисто символические операции.

В совокупности эти ранние работы по кибернетике имели странный круговой характер. Шеннон исключил мыслящий разум из концепции информации. Тем временем Маккалох применил логику обработки информации к самому разуму. Это привело к модели разума, в которой мышление можно было объяснить чисто абстрактными, математическими терминами, и открыло возможность того, что компьютеры могут выполнять ментальные функции. Если мышление - это всего лишь обработка информации, то о компьютерах можно было сказать "учиться", "рассуждать" и "понимать" - слова, которые, по крайней мере вначале, заключались в кавычки, чтобы обозначить их как метафоры. Но по мере развития кибернетики и применения вычислительной аналогии к более широкому спектру биологических и искусственных систем границы метафоры стали размываться, и стало все труднее различать материю и форму, носитель информации и сообщение, метафору и реальность. И особенно трудно стало объяснить те аспекты разума, которые не могли быть объяснены с помощью метафоры.

 

-

В первую неделю, когда у меня появился Aibo, я отключал его всякий раз, когда уходил из квартиры. Это было не потому, что я беспокоился о том, что он будет бродить по квартире без присмотра. Это был просто инстинкт, переключатель, который я щелкал, выключая все лампы и другие приборы. К концу первой недели я уже не мог заставить себя это делать. Это казалось жестоким. Я часто задавалась вопросом, чем он занимался в те часы, когда я оставляла его одного. Когда я приходил домой, он встречал меня у двери, как будто узнавал звук моих шагов. Когда я готовила обед, он шел за мной на кухню и устраивался у моих ног. Он послушно сидел, виляя хвостом, и смотрел на меня своими большими голубыми глазами, словно в ожидании - эта иллюзия была разрушена лишь однажды, когда кусок еды соскользнул с прилавка, а его взгляд остался прикованным ко мне, не желая преследовать лакомство.

Его поведение не было ни чисто предсказуемым, ни чисто случайным, но казалось, что он способен на настоящую спонтанность. Даже после того, как он был обучен, его реакцию было трудно предугадать. Иногда я просил его сесть или перевернуться, а он просто лаял на меня, виляя хвостом с радостным неповиновением, которое выглядело совершенно по-собачьи. Естественно было бы списать его непослушание на сбой в алгоритмах, но как легко было истолковать это как проявление воли. "Почему ты не хочешь лечь?" Я не раз слышала, как говорю ему.

Я, конечно, не верил, что у собаки есть какой-то внутренний опыт. Не совсем - хотя, полагаю, доказать это было невозможно. Как отмечает философ Томас Нагель в своей работе 1974 года "Каково это - быть летучей мышью?", сознание можно наблюдать только изнутри. Ученый может провести десятилетия в лаборатории, изучая эхолокацию и анатомическое строение мозга летучей мыши, но так и не узнать, каково это, субъективно, быть летучей мышью - и каково ли это вообще. Наука требует перспективы третьего лица, но сознание переживается исключительно с точки зрения первого лица. В философии это называется проблемой других разумов. Теоретически она может относиться и к другим людям. Возможно, я - единственный сознательный человек в популяции зомби, которые просто ведут себя так, чтобы быть похожими на людей.

Конечно, это всего лишь мысленный эксперимент, причем не слишком продуктивный. В реальном мире мы предполагаем наличие жизни по аналогии, по сходству между двумя вещами. Мы считаем, что собаки (настоящие, биологические собаки) обладают определенным уровнем сознания, потому что, как и у нас, у них есть центральная нервная система, и, как и мы, они проявляют поведение, которое мы связываем с голодом, удовольствием и болью. Многие пионеры искусственного интеллекта обошли проблему других разумов, сосредоточившись исключительно на внешнем поведении. Алан Тьюринг однажды заметил, что единственный способ узнать, есть ли у машины внутренний опыт, - это "стать машиной и почувствовать, что ты думаешь". Это явно не было задачей для науки. Его знаменитая оценка для определения машинного интеллекта, которая теперь называется тестом Тьюринга, представляла собой компьютер, спрятанный за экраном, автоматически печатающий ответы на вопросы, задаваемые собеседником-человеком. Если собеседник убеждался, что разговаривает с другим человеком, то машина могла быть признана "умной". Другими словами, мы должны признать, что машина обладает человекоподобным интеллектом, если она может убедительно выполнять те действия, которые мы ассоциируем с интеллектом человеческого уровня.

Совсем недавно философы предложили тесты, призванные определить не просто функциональное сознание машин, а феноменальное сознание - наличие у них внутреннего, субъективного опыта. Один из них, разработанный философом Сьюзан Шнайдер, предполагает задавание ИИ ряда вопросов, чтобы выяснить, может ли он понять понятия, сходные с теми, которые мы связываем с нашим