Сообщество разума - Марвин Мински Страница 16

Каким образом возможно познать разум? Не возбраняется действовать точно так же: выдвигаем мини-гипотезы относительно процессов мышления, а затем проверяем эти гипотезы посредством экспериментов. Проблема в том, что мысленные эксперименты редко приносят те четкие и однозначные результаты, к которым стремятся ученые. Спросите себя, что происходит, когда мы пытаемся вообразить круглый квадрат – или когда норовим быть одновременно счастливыми и грустными. Почему столь трудно описать результаты подобных экспериментов или сделать из них полезные выводы? Да потому, что мы начинаем путаться. Наши размышления о мысленных экспериментах сами являются мысленными экспериментами, а потому накладываются друг на друга.

Мышление оказывает влияние на наши мысли.

Люди, которые программируют компьютеры, сталкиваются с аналогичными затруднениями в случаях, когда новые программы начинают сбоить вследствие непредвиденных взаимодействий между их фрагментами. Чтобы выяснить, что происходит, программисты составляют особые программы для «отладки» других программ. Но, в отличие от мысленных экспериментов, здесь существует опасность того, что программа, которую отслеживают, может внести какие-то изменения в следящую программу. Дабы не допустить этого, все современные компьютеры оснащены специальными «прерывателями», которые обнаруживают попытки любых программ изменить программу-отладчик; когда это происходит, виновника «замораживают», чтобы отладчик мог его проверить. С этой целью «прерыватели» могут получать в свое распоряжение дополнительный банк памяти, где хранится объем информации, достаточный для проверки и последующего перезапуска «замороженной» программы, как если бы ничего не случилось.

«Оборудован» ли человеческий разум такими программами? Довольно просто встроить систему самоанализа в компьютеры, выполняющие по одной операции за такт, но гораздо труднее сделать то же самое в системе, подобной разуму, где множество процессов протекает одновременно. Проблема в том, что, когда требуется «заморозить» всего один процесс, не прерывая выполнение прочих, это изменяет ситуацию, которую мы собирались изучить. А если остановить все мыслительные процессы разом, мы лишимся возможности выяснить, как они взаимодействуют между собой.

Позднее будет показано, что сознание опирается на наши ярчайшие, непосредственные воспоминания. Это означает, что имеются пределы того, о чем сознание способно поведать нам применительно к самому себе; оно не в состоянии проводить полноценное самотестирование. Ведь ему понадобилась бы полная запись происходящего внутри памяти. Но любой подобный механизм погрязнет в самотестировании, призванном выяснить, как работает «устройство», ибо такие эксперименты неизбежно вносят изменения в «записи», подлежащие проверке! Мы не можем адекватно справляться с прерываниями. Это вовсе не означает, что сознание принципиально невозможно постичь. Это значит лишь, что для его изучения следует применять менее очевидные научные методы, поскольку просто «посмотреть и увидеть», к сожалению, нельзя.

6.4. Мозг Б

У разума есть способ наблюдать за собой и одновременно отслеживать происходящее. Разделим наш мозг на два малых мозга – А и Б. Соединим «входы» и «выходы» мозга А с внешним миром, чтобы он мог воспринимать события вовне. Но не будем подключать к внешнему миру мозг Б; вместо того соединим его с мозгом A, который заменит мозгу Б мир снаружи.

Рис. 12

Теперь мозг А может воспринимать события внешнего мира и реагировать на них, тогда как мозг Б может «видеть» происходящее в мозге А и оказывать влияние на него. В чем польза от мозга Б? Вот некоторые действия мозга A, которые мозг Б может научиться распознавать и использовать.

А пребывает в беспорядке и смятении. – Подавить эту активность.

А повторяет операции. – Принудить А прекратить. Сделать что-то еще.

А делает что-то, что кажется Б правильным. – Побудить А запомнить это.

А уделяет чрезмерное внимание деталям. – Заставить А перейти на уровень выше.

А недостаточно конкретен. – Побудить А сосредоточиться на подробностях.

Такая двухчастная схема может оказаться шагом на пути к формированию более «рефлексивного» общества разума. Мозг Б может экспериментировать с мозгом A, подобно тому как мозг А может экспериментировать с телом или с окружающими его предметами и людьми. Мозг А предпринимает попытки предсказывать и контролировать происходящее во внешнем мире, а мозг Б может попытаться предсказать и контролировать действия мозга А. Например, мозг Б может отслеживать обучение мозга A, либо меняя поведение А впрямую, либо воздействуя на процесс обучения мозга А.

При этом мозг Б может не иметь ни малейшего представления о том, каковы действия мозга А по отношению к внешнему миру, но для Б будет возможно приносить пользу А. Так происходит потому, что Б способен освоить роль, скажем так, консультанта, психолога или советника по вопросам управления, который может оценить стратегию клиента, не вызнавая все подробности его профессиональной деятельности. Не располагая сведениями о том, каковы цели А, Б может научиться определять ситуации, когда А не приближается к реализации этих целей, но «бродит кругами» или пребывает в растерянности, поскольку ряд агентов А повторяют одни и те же операции снова и снова. В этом случае Б может попробовать применить корректирующее воздействие, например временно отключить некоторых агентов А. Конечно, это вполне может обернуться ситуацией, когда деятельность Б станет помехой для А. К примеру, если перед А имеется цель вычислить сумму длинной колонки цифр, Б может вмешаться в процесс, сочтя, со своей точки зрения, что А угодил в ловушку повторяющегося цикла. В итоге тот, кто привык к большему разнообразию действий, будет испытывать трудности с тем, чтобы сосредоточиться на выполнении задачи, и начнет жаловаться на скуку.

В той степени, в которой мозг Б осведомлен о происходящем в мозгу А, вся система может рассматриваться как частично «осознающая себя». Однако, если мы поручим А и Б пристально «следить» друг за другом, может случиться что угодно, и вся система рискует утратить стабильность. Так или иначе, нет необходимости останавливаться на двухуровневой схеме: можно подключить мозг В для контроля мозга Б, и т. д.

6.5. «Замороженная» рефлексия

Настоящее и прошедшее,

Вероятно, наступят в будущем,

Как будущее наступало в прошедшем[6].

Т. С. Элиот

Никакой «супервизор» не может знать всего о деятельности своих агентов. Ему просто не хватит времени это выяснить. Каждый чиновник в бюрократической системе владеет лишь толикой информации о происходящем соответственно месту, которое он занимает в пирамиде информационного потока. Лучшими подчиненными оказываются те, кто трудится незаметнее прочих. В самом деле, именно поэтому мы возводим административные «пирамиды» для деятельности, о которой ничего не знаем, и для той, которой у нас нет времени заниматься. Это также объясняет, почему столь изрядное количество