Искусственный интеллект – надежды и опасения - Джон Брокман Страница 29
Искусственный интеллект – надежды и опасения - Джон Брокман читать онлайн бесплатно
На протяжении всей своей карьеры, анализировал ли он язык, отстаивал ли реалистическую биологию разума или изучал человечество через призму гуманистических идей Просвещения, психолог Стивен Пинкер признавал и защищал натуралистическое понимание Вселенной и вычислительную теорию разума. Пожалуй, он – первый международно признанный интеллектуал, которого общество оценило за пропаганду эмпирического взгляда на язык, разум и человеческую природу.
«Дарвин позволил вдумчивому наблюдателю естественного мира обойтись без креационизма, – говорит он, – а Тьюринг и другие исследователи обеспечили вдумчивому наблюдателю мира когнитивного обходиться без спиритуализма».
В спорах о рисках ИИ Пинкер выступает против пророчеств о неминуемой гибели и всеобщего уныния, отмечая, что подобные взгляды формируются худшими из наших психологических предубеждений – в частности, тиражируемых средствами массовой информации: «Сценарии стихийных бедствий очень просто разыгрывать в свободной от вероятностей зоне нашего воображения, и они всегда находят отклик у обеспокоенной, технофобной или очарованной видением катастрофы аудитории». Отсюда, если вспоминать историю, ящик Пандоры, Фауст, «Ученик чародея», Франкенштейн, демографическая катастрофа, истощение ресурсов, HAL, ядерное оружие в чемоданчике, ошибка 2000 года и истребление мира нанотехнологической серой слизью[92]. «Характерной особенностью дистопий об ИИ, – подчеркивает Пинкер, – является проецирование узкой альфа-самцовой психологии на концепцию интеллекта… Да, в истории порой возникают деспоты-мегаломаньяки или серийные убийцы-психопаты, но это плоды естественного отбора, формирующего чувствительные к тестостерону цепи у определенных видов приматов, а вовсе не неизбежная особенность интеллектуальных систем».
В очерке ниже Стивен восхваляет убежденность Винера в силе идей перед нашествием технологий. Как удачно выразился сам Винер, «опасность машины для общества исходит не от самой машины, а от человека, который ею управляет».
Искусственный интеллект доказывает правоту одной из величайших идей в истории человечества: речь о том, что абстрактное царство знания, разума и цели не подразумевает elan vital[93], нематериальной души или чудесных сил нервной ткани. Скорее, оно может быть связано с физическим царством животных и машин благодаря концепциям информации, вычислений и контроля. Знание можно объяснить как накопление образцов материи или энергии, находящихся в систематических отношениях с состояниями мира, математическими и логическими истинами и друг с другом. Мышление же можно объяснить как трансформацию этого знания посредством физических операций, которые предназначены для сохранения указанных отношений. Цель может быть объяснена как способ контроля операций для осуществления изменений в мире на основании несоответствий между текущим и целевым состояниями. Мозг, плод естественной эволюции, представляет собой всего-навсего наиболее привычную систему, которая создает интеллект через информацию, вычисления и контроль. Разработанные человеком системы, способные к обретению интеллекта, подтверждают предположение, что для объяснения здесь достаточно понятия обработки информации, – то есть, как выразился покойный Джерри Фодор, подтверждают вычислительную теорию разума.
Исходная работа для авторов настоящего сборника – книга «Человеческое применение человеческих существ» Норберта Винера – зафиксировала это интеллектуальное достижение, одним из творцов которого был сам Винер. К неочевидному прорыву середины XX столетия, подарившему нам вычислительную теорию разума, причастны также Клод Шеннон и Уоррен Уивер, которые объяснили знания и коммуникацию через информацию. Следует воздать должное и Алану Тьюрингу с Джоном фон Нейманом за объяснение интеллекта и мышления с точки зрения вычислений. Что касается Винера, он объяснил загадочный мир целей, задач и целеполагания через техническую концепцию обратной связи, управления и кибернетики (в первоначальном значении слова – «управления» работой системы, ориентированной на достижение целей). «По моему мнению, – писал он, – физическое функционирование живых индивидуумов и работа некоторых новейших коммуникативных машин совершенно параллельны друг другу в аналогичных попытках контролировать энтропию посредством обратной связи». То есть борьба с угрожающей жизни энтропией является конечной целью человечества.
Винер применил идеи кибернетики к третьей системе – обществу. Законы, нормы, обычаи, средства массовой информации, форумы и институты сложного сообщества могут рассматриваться как каналы распространения информации и обратной связи, которые позволяют обществу справляться с беспорядками и реализовывать поставленные цели. Этот тезис прослеживается красной нитью по всей книге; вполне возможно, что сам Винер считал его главным. В своем объяснении обратной связи он писал: «Этот комплекс поведения обычно игнорируется средним человеком; в частности, он не играет заметной роли в житейском анализе социальных процессов; однако мы вправе изучать как физическое реагирование индивида, так и органическое реагирование самого общества».
Действительно, Винер придал научное обоснование предположению о том, что в истории, политике и обществе имеют значение идеи. Убеждения, идеологии, нормы, законы и обычаи, регулируя поведение людей, которые их разделяют, способны формировать общество и влиять на ход исторических событий точно так же, как физические явления воздействуют на структуру и эволюцию Солнечной системы. Говорить, будто идеи – а не только климат, ресурсы, география или вооружение – могут формировать историю, вовсе не значит впадать в мистику. Перед нами утверждение о каузальности информации, которая создается в человеческом мозге и передается через сети связи и обратной связи. Детерминистские теории истории, признают ли они первопричиной технологии, климат или географию, опровергаются каузальной мощью идей. Среди последствий этих идей можно выделить непредсказуемые колебания и смещения, возникающие благодаря положительной обратной связи – или неправильной калибровке отрицательной обратной связи.
Анализ общества с точки зрения распространения идей также предоставил Винеру трибуну для социальной критики. Здоровое общество – такое, которое наделяет людей средствами к продолжению жизни вопреки энтропии – позволяет информации, воспринимаемой и распространяемой его членами, порождать обратную связь и влиять на способы управления этим обществом. Дисфункциональное общество опирается на догму и на власть навязывать контроль сверху вниз. Потому Винер называл себя «сторонником либерального мировоззрения» и посвятил бо́льшую часть моральной и риторической критики в своей книге (издания 1950 и 1954 годов) осуждению коммунизма, фашизма, маккартизма, милитаризма и авторитарной религии (в особенности католицизма и ислама), а также предупреждениям о том, что политические и научные институты постепенно становятся все более иерархическими и замкнутыми.
Книга Винера, кроме того, есть ранний образчик произведения в жанре, который уверенно обретает популярность, – жанре технического пророчества. Причем речь не о пророчестве в смысле простого прогноза, а о предсказании в духе Ветхого Завета, мрачном предостережении относительно катастрофического возмездия за упадок. Винер рассуждал об ускорении гонки ядерных вооружений, о технологических изменениях, которые навязываются обществу без учета благополучия человека («Будучи учеными, мы должны знать, какова природа человека и каковы присущие ему цели»), и о том, что сегодня называется проблемой выравнивания ценностей: «подобная джинну машина, способная к обучению и принятию решений на базе этого обучения, никоим образом не окажется обязанной принимать те решения, какие приняли бы мы сами или какие были бы приемлемыми для нас». В более трагическом по тону издании 1950 года
Жалоба
Напишите нам, и мы в срочном порядке примем меры.