Станислав Лем - Мгновение Страница 13

Наиболее интересно развивается роботехника sensu stricto[27]. И не важно, должны ли роботы, которым таким образом предоставлена самостоятельность, быть похожи на человека. Собственно, их «анатомия» несущественна, потому что в основном уже преодолены трудности, связанные с приведением в движение этих устройств, которые двадцать лет назад умели ходить только по такой плоской поверхности, как пол лаборатории, и падали на первых же хороших ступеньках. Самым твердым орешком является вопрос имитации центральной системы управления (или центральной нервной системы высших животных или человека). Надо честно сказать, что речь идет о вступлении в не существующую еще область психозоической инженерии. В последние годы были существенно усовершенствованы встраиваемые в роботы программы, благодаря чему они уже могут не менее качественно, чем люди, работать на автомобильных и тракторных заводах. Основой для работы устройств, однако, является достаточно ограниченная повторяемость рабочих операций. Я не буду больше углубляться в затягивающие сети инженерного мастерства. Для программистов настоящим препятствием по-прежнему являются будто бы простые действия, выполняемые каждым человеком без усилий. Устройства, которые могут как-то убрать в комнате пыль с минимумом приносимого ущерба, по-прежнему являются непропорционально дорогими. В общем говоря, ситуация такова, что роботы или псевдороботы овладели только отдельными, сугубо специализированными функциями. Они могут выполнять рекомендации или приказы, но этого недостаточно для удовлетворения амбиций проектировщиков. Они ведут речь о роботах, которые, возможно, совершенно не похожи на человека, но проявляют такую самостоятельность в действиях, которая следует из решения как волевого акта. С этим же проблема потому, что мы по-прежнему не знаем, какие неврологические механизмы мозга отвечают за акт воли. Поэтому программисты занимаются созданием таких программных систем, которые имитируют наличие бихевиористически понимаемого сознания. Таким образом, возникло направление, которое должно не столько пройти, сколько обойти тест Тьюринга.

Я уверен, что как количество, так и качество этих программ, обычно ориентированных на очередные поколения параллельно работающих компьютеров, а также на смешанные соединения псевдонейронных сетей, будут достигать все большего уровня точности и тем самым будут все лучше имитировать присутствие обладающего умом сознания, которое многими людьми будет восприниматься как индивид или как воплощенная в машине индивидуальность. В определенном смысле это будет обман людей как собеседников или сотрудников машиной, так как настоящим, присущим личности, сознательным интеллектом, называемым психической жизнью, имитаторы этого типа еще обладать не будут. Следует уяснить себе, что эта дорога ведет к нагромождению трудностей, которые в моем «Големе» я назвал hill climbing toposophical theory[28]. Речь идет о вступлении на территорию, пока недоступную для механических пришельцев, которая находится в наших черепах. Невозможен некий неожиданный скачок от полностью безвольного устройства, пусть даже иногда оказывающего сопротивление, которое мы скорее склонны назвать ослиным упрямством и которое известно пользователям зависающих компьютеров. Прогрессирующая компактность (сжатие) информационных носителей, которые будут все более совершенными эквивалентами твердых дисков, не может обеспечить абсолютную безошибочность. Одна логическая ошибка на миллиард элементарных вычислений – это доказанный недостаток самых быстрых машин, обладающих наибольшей вычислительной мощностью. Не вдаваясь в подробности, скажу только, что за растущую, даже постепенно, быстроту операций надо платить появлением ошибок; быстрота операций, перевалив за биллион логических шагов, начинает душить логически измеримую, ранее признаваемую совершенной безошибочность системы.

Мозг наш является, как сказал фон Нейман, совершенной системой, созданной из несовершенных нейронных элементов. Это еще и потому, что к каждому закодированному в человеческой памяти понятию ведет разнообразное количество дорог. Например, если я не могу вспомнить, как называется всем известная птица с красиво выгнутой шеей, то я мог бы выбирать из памяти правильное название (лебедь) или начинать припоминать обороты типа «лебединая песня», или даже балет «Лебединое озеро». А к находящимся в памяти компьютера «энграммам» обычно ведет одна дорога, поэтому ее блокировка приводит к полной «амнезии» компьютера. Подобных проблем, противостоять которым может только значительный охват сетями элементов памяти, будет множество. Тем более что у самих людей есть трудности с припоминанием названий, таких, как фамилии, потому что количество их пересечений со всем запасом нашей языковой идиоматики, вообще говоря, скромное. Надо также понимать, что от так называемого information retrieval[29] до псевдоинтеллектуальной независимости еще очень далеко.

Пока можно было бы выразить проблему такой фразой: распознавание сымитированной активности искусственного интеллекта будет зависеть как от точности машинного имитатора, так и от критических способностей настоящего человеческого интеллекта в контактах, носящих характер n-мерной игры. Если правда, что количество возможных шахматных партий составляет 10100, то количество возможных вариантов разговора человека с искусственным интеллектом и сосчитать невозможно, потому что каждый человек среднего интеллекта способен составлять и понимать семантически и синтаксически правильные предложения, которым его никто до этого времени не обучал. Когда машины продемонстрируют такое лингвистическое совершенство и будет ли это вообще, мы не знаем, и поэтому не стоит слишком доверять как негативным, так и позитивным заявлениям резвящихся на этом поле философов. Не какие-то крупнокалиберные, выдвигаемые на поле боя аргументы «за» и «против» в далеком будущем позволят сделать вывод о возникновении или крахе искусственной разумности. Без множества мечтаний, попыток, катастроф не было бы авиации. Без неустанных штурмов не может появиться искусственный интеллект. Предрешение этого спора я считаю преждевременным.

Макрок[30]

Макрок – это придуманный мною неологизм, кратко передающий идею, поборником которой выступал Роджер Пенроуз. Этот ученый, достаточно дерзко выйдя за пределы теоретической физики, выдвинул гипотезу, что своими умственными способностями человек якобы обязан невычислительной (то есть такой, которая не может быть результатом сколь угодно сложных вычислений) работе мозга, опирающейся на квантовые эффекты. Макрок означает макроскопический объект квантовый. Предположение о невычислительности и квантовости человеческого мозга, выдвинутое Пенроузом, не опирается на какие-либо эмпирические факты, и большинством ученых оно было воспринято очень скептически.

Пенроуз является авторитетным ученым в области физики, однако, как говорят критики, это не дает ему права на подобные предположения. Я вспоминаю об этом потому, что наше сознание – это белое пятно в сфере познания, и сегодня не менее загадочное, чем сто или пятьсот лет назад. Упрощая, можно поделить всех, кто (в прошлом или настоящем) занимался разгадыванием психологии человека, особо выделяя сознание, интеллект, разум, проницательность или же сообразительность, на тех, кто давал толковые разъяснения вышеприведенных человеческих качеств, и на тех, кто считал, что мы никогда не найдем ключи ко всему собранию этих тайн. В последнее время довольно много говорили о последних результатах исследования мозга Эйнштейна, отличающегося значительными размерами теменных (париетальных) долей. Однако нет оснований утверждать, что гениальность Эйнштейна была следствием лишь этой исключительной макроскопической особенности его мозга.

В настоящее время, после успешного клонирования овцы, после обнаружения принципиальной способности материнских клеток (stem cells), как тотипотентных, к клонированию как целого организма, так и его фрагментов, открылся простор для интенсивного и не всегда оправданного гипотезотворчества. Поскольку невозможно, взяв крылообразующие гены от самых больших птиц, передать нашему потомству умение летать, то эта придуманная проблема, будучи неосуществимой, не дает оснований для биоэтического анализа. Поэтому мы не рассуждаем, стоит ли переделать людей в ангелов, ибо это невозможно. Вся тяжесть моральных решений с сфере биоэтики ляжет на нас, когда у давнишних фантазий появится шанс осуществиться. Клонирование, уже опробованное на различных видах полезных растений и домашних животных, относительно человеческого рода находит одновременно и категорических противников, и энтузиастов-сторонников. В результате этого даются разные ответы на вопрос, можно ли клонировать людей: клонировать непосредственно или по крайней мере начать создание различных банков человеческих органов. Наряду с этой основной проблемой появляется множество сопутствующих и не менее важных, например животрепещущий вопрос: можно ли использовать сперму умершего мужчины для оплодотворения его жены, точнее, вдовы, если она выражает такое желание. Здесь также уже стало очевидным лобовое столкновение ответа «можно» с «ни за что на свете». Одни считают, что людей нельзя лишить права на оплодотворение, делающее возможным посмертное размножение, но и лагерь противников не ограничивается исключительно представителями различных религий.