Мартин Форд - Роботы наступают Страница 65

По существу, широкое распространение человекоподобного искусственного интеллекта будет равносильно тому, что я описал в предшествующей главе в разделе о мысленном эксперименте с «инопланетным вторжением». Не ограничиваясь одними лишь относительно рутинными, повторяющимися и предсказуемыми задачами, машины смогут заниматься практически всеми видами деятельности. Разумеется, это будет означать, что никто из людей не сможет зарабатывать своим трудом. Доход с капитала — или, по сути, доход с права собственности на машины — будет сосредоточен в руках немногочисленной элиты. У потребителей не будет достаточных средств для приобретения благ, производимых умными машинами. Все это приведет к многократному усилению тенденций, о которых мы говорили на страницах этой книги.

Впрочем, это еще далеко не конец. Как те, кто верит в обещание, что сингулярность обязательно наступит, так и те, кого беспокоят угрозы, связанные с появлением развитого искусственного интеллекта, зачастую рассматривают его как дополнение к еще одной потенциально разрушительной силе из мира технологий или как фактор, способствующий ее появлению: я имею в виду нанотехнологии.

Нанотехнологии

Нанотехнологии трудно поддаются определению. С самого начала своего существования эта область знания находилась где-то на границе между настоящей наукой и тем, что многие бы назвали чистой фантастикой. Вокруг нее было столько шумихи и споров, она вызывала благоговейный трепет и становилась яблоком раздора в политических баталиях, от исхода которых зависела судьба миллиардов долларов, а также была предметом словесных и идеологических перепалок между самыми выдающимися умами.

Фундаментальные идеи, которые лежат в основе нанотехнологий, прозвучали впервые в декабре 1959 г., когда физик, нобелевский лауреат Ричард Фейнман рассказал о них во время своего выступления в Калифорнийском технологическом институте. Лекция Фейнмана называлась «Внизу полным-полно места»[66] (There's Plenty of Room at the Bottom); он решил посвятить ее «проблеме контроля и управления строением вещества в интервале очень малых размеров»[67]. И под «малыми» он имел в виду не просто маленькие, а микроскопические. Фейнман заявил, что «готов рискнуть и поставить вопрос о возможности — когда-нибудь в счастливом будущем — располагать атомы в требуемом порядке, именно атомы, самые мелкие строительные детали нашего мира!» Он сформулировал своего рода механистический подход к химии, утверждая, что почти любое вещество может быть синтезировано путем укладывания «атомов в порядке, указанном химиками, что будет равносильно созданию вещества»{312}.

В конце 1970-х гг. К. Эрик Дрекслер, который тогда был студентом MIT, принял эстафетную палочку от Фейнмана и донес ее если и не до финишной линии, то уж точно до начала следующего круга. Дрекслер создал в своем воображении образ мира, в котором наноразмерные молекулярные машины способны быстро перекомпоновывать атомы, почти мгновенно превращая дешевое сырье, которого у нас более чем достаточно, практически во все, что мы только захотим получить. Именно он ввел термин «нанотехнологии» и написал две книги на эту тему. Первая — «Машины мироздания: Грядущая эра нанотехнологий» (Engines of Creation: The Coming Era of Nanotechnology) — была опубликована в 1986 г. и имела большой успех у читателей, обеспечив повышенное внимание общественности к нанотехнологиям. Книга стала настоящим кладезем новых идей для авторов научно-фантастических книг и вдохновила целое поколение ученых на карьеру в сфере нанотехнологий. Вторая книга Дрекслера под названием «Наносистемы: Молекулярные машины, производство и вычисления» (Nanosystems: Molecular Machinery, Manufacturing, and Computation) носила куда более узкоспециальный характер и была основана на диссертации, которую он защитил в MTI, став первым в истории человеком с научной степенью в области молекулярных нанотехнологий.

Сама по себе идея молекулярных машин может показаться совершенно нелепой, пока вы не осознаете тот факт, что они не просто существуют, но еще и являются неотъемлемой частью химии жизни. Самый яркий пример — рибосома, которая, по существу, представляет собой молекулярную фабрику внутри клетки, считывающую закодированную в ДНК информацию и затем собирающую на ее основе тысячи самых разных белковых молекул. Получившиеся в результате молекулы выступают в качестве структурных и функциональных блоков всех биологических организмов. Но для Дрекслера это была лишь отправная точка: он утверждал, что однажды эти крошечные машины могут выйти за рамки микромира биологии, где сборщики молекул функционируют в благоприятной водной среде, и занять место машин из твердых сухих материалов (например, стали и пластика) в макромире.

Впрочем, несмотря на весь радикализм идей Дрекслера, к началу нового тысячелетия нанотехнологии прочно вошли в научную теорию и практику. В 2000 г. конгресс США принял, а президент Клинтон подписал закон о запуске программы под названием «Национальная нанотехнологическая инициатива» (National Nanotechnology Initiative, NNI) с целью координации инвестиций в данной области. В 2004 г. аналогичный шаг был предпринят администрацией Буша, которая одобрила выделение дополнительных инвестиций в размере $3,7 млрд в рамках Закона о проведении научно-исследовательской работы в области нанотехнологий в XXI в. (21st Century Nanotechnology Research and Development Act). В общей сложности в период с 2001 по 2013 г. федеральное правительство США вложило в научные исследования в области нанотехнологий в рамках NNI почти $18 млрд. Администрация Обамы запросила еще $1,7 млрд на 2014 г.{313} Казалось бы, перед исследователями молекулярных технологий открылись фантастические перспективы; но в реальности все оказалось совсем по-другому. По мнению Дрекслера, после одобрения конгрессом решения о выделении средств для исследований в области нанотехнологий незаметно для всех произошел глобальный разворот. В 2013 г. была опубликована еще одна его книга под названием «Всеобщее благоденствие. Как нанотехнологическая революция изменит цивилизацию»[68] (Radical Abundance: How a Revolution in Nanotechnology Will Change Civilization), в которой Дрекслер указывает, что в соответствии с определением из первоначального плана создания Национальной нанотехнологической инициативы, составленного в 2000 г., «суть нанотехнологий заключается в возможности работать на молекулярном уровне, манипулируя отдельными атомами, чтобы создавать большие структуры с принципиально новой молекулярной организацией», а цель научной работы состоит в получении «контроля над структурами и машинами на атомном, молекулярном и надмолекулярном уровнях и разработке эффективных методов производства и применения этих машин»{314}. Другими словами, предусматривавшийся NNI план действий был напрямую связан с лекцией Фейнмана 1959 г. и работой самого Дрекслера в MTI.

Однако в процессе фактической реализации NNI сформировалось совершенно иное видение этих вопросов. По словам Дрекслера, люди, которые были наделены руководящими полномочиями в рамках инициативы, сразу же «убрали из планов NNI любые упоминания об атомах и молекулах в связи с производством и пересмотрели определение нанотехнологий, ограничив его лишь тем, что было достаточно маленьким. Крошечные частицы подходили, атомарные структуры — нет»{315}. По крайней мере, с точки зрения Дрекслера, все выглядело так, как будто корабль нанотехнологий взяли на абордаж пираты, которые сбросили за борт все динамические молекулярные машины и уплыли, оставив в трюме только материалы, которые состояли из крошечных, но при этом статичных частиц. Практически все средства, инвестированные в нанотехнологии под эгидой NNI, достались научным исследованиям, основанным на относительно традиционных методах из области химии и материаловедения; исследования, посвященные изучению молекулярной сборки, остались ни с чем.

Внезапный отход от идеи развития молекулярных технологий был продиктован целым рядом факторов. В 2000 г. один из основателей Sun Microsystems Билл Джой написал для журнала Wired статью под названием «Почему будущее в нас не нуждается» (Why the Future Doesn't Need Us). В ней он указал на опасность, которую генетика, нанотехнологии и искусственный интеллект могут представлять для существования человека. Дрекслер также отмечал возможность появления самовоспроизводящихся молекулярных сборщиков, которые выйдут из-под контроля человека и начнут использовать нас — да и все остальное вокруг — в качестве своего рода исходного сырья. Дрекслер назвал этот вариант развития событий сценарием распространения «серой слизи», заметив с тревогой, что «совершенно ясно одно: есть ряд ошибок, которые мы просто не можем позволить себе допустить в случае с воспроизводящимися сборщиками»{316}. По мнению Джоя, Дрекслер преуменьшает степень опасности, утверждая, что распространение «серой слизи предвещает по-настоящему мрачный конец человеческой авантюры на Земле — куда более печальный, чем гибель от огня или льда, да еще и такой, который может быть спровоцирован банальной оплошностью сотрудника лаборатории»{317}. Еще больше масла в огонь подлил Майкл Крайтон, опубликовавший в 2002 г. роман «Жертва» (Prey), в котором он изобразил несметные тучи хищных нанороботов. При этом он тоже начал книгу с цитат из работы Дрекслера.