Власть роботов. Как подготовиться к неизбежному - Мартин Форд Страница 38

связи — в сущности, способность задать вопрос «почему?» и ответить на него — станет важнейшей элементом создания универсального машинного интеллекта. Работа Перла в области причинно-следственной связи оказала огромное влияние на естественные и общественные науки, но он полагает, что исследователи ИИ по большей части не сделали из нее выводов и, в общем, слишком много внимания уделяют корреляции, столь эффективно выявляемой системами машинного обучения[197]. Однако ситуация меняется. Например, Йошуа Бенджио и его команда в Монреальском университете недавно опубликовали результаты исследования новаторского подхода к обеспечению понимания причинности в сети глубокого обучения[198].

Трансферное обучение

Грэм Аллисон, политолог и профессор Гарварда, известен как создатель понятия «ловушка Фукидида». Это понятие отсылает нас к «Истории Пелопоннесской войны» древнегреческого историка Фукидида — хронике конфликта между Спартой и укрепляющимися Афинами в V веке до нашей эры. По мнению Грэма, в войне Спарты и Афин ясно просматривается исторический принцип, применимый и сегодня. В изданной в 2017 году книге «Обречены воевать»[199] он утверждает, что Соединенные Штаты и Китай угодили в современную ловушку Фукидида и, если Китай продолжит наращивать мощь и влияние, конфликт может стать неизбежным[200].

Могла бы система искусственного интеллекта прочитать такой исторический документ, как «История Пелопоннесской войны», и успешно применить полученные знания к современной геополитической ситуации? Если да, то это означало бы, что достигнута одна из важнейших контрольных точек на пути к универсальному искусственному интеллекту — трансферное обучение. Способность получить информацию из одного документа и успешно использовать ее в других областях — один из отличительных признаков человеческого интеллекта и принципиальное условие креативности и инновации. Чтобы универсальный машинный интеллект был по-настоящему полезным, он должен уметь больше, чем просто отвечать на вопросы в конце главы. Он должен быть способен применять полученные знания и возникшее при этом понимание при решении совершенно новых задач. Прежде чем появится какая-то надежда на то, что ИИ-система сумеет это сделать, она должна продвинуться намного дальше поверхностного понимания, которое сегодня достигается в глубоких нейронных сетях, и добиться подлинного постижения. Способность применять знания в разнообразных областях и в новых ситуациях может оказаться самым лучшим тестом на наличие истинного понимания у машинного интеллекта.

Путь к искусственному интеллекту человеческого уровня

Почти все исследователи ИИ, с которыми я разговаривал, считают, что искусственный интеллект человеческого уровня реален и когда-нибудь станет неизбежным. Мне это представляется обоснованным. В конце концов, мозг человека — это, в сущности, биологическая машина. Нет причин полагать, что в биологическом интеллекте есть что-то волшебное или что невозможно когда-нибудь встроить нечто подобное в совершенно иной носитель.

Более того, представляется, что субстрат на основе кремния имеет множество преимуществ перед биологической живой материей, поддерживающей работу человеческого мозга. Электрические сигналы в компьютерных чипах распространяются гораздо быстрее, чем в головном мозге, и любая машина, однажды сравнявшаяся с нами в способности мыслить и общаться, будет обладать всеми преимуществами, которые есть у компьютеров. Машинный интеллект будет безошибочно помнить даже то, что произошло в далеком прошлом, и уметь сортировать и перелопачивать колоссальные объемы данных с фантастической скоростью. Он также сможет напрямую выходить в интернет или другие сети, подключаться к практически безграничным ресурсам и без усилий общаться с другими машинами, даже если освоит общение с нами. Иными словами, ИИ человеческого уровня по определению будет во многих отношениях превосходить нас.

Несмотря на почти всеобщую убежденность, что эта цель когда-то будет достигнута, путь, который нас к ней приведет, и время прибытия по-прежнему тонут во мраке неопределенности. До сих пор прогресс был очень постепенным. Так, в конце 2017 года DeepMind выпустила AlphaZero, обновление своей системы AlphaGo для игры в го. В AlphaZero было покончено с необходимостью контролируемого обучения на данных о тысячах партий в го, сыгранных людьми, она начинает фактически с чистого листа, обучаясь исключительно на основе моделирования, играя сама с собой. Систему можно научить решать и другие задачи, в том числе играть в шахматы и японскую игру сёги. AlphaZero быстро доказала, что является самым сильным на планете игроком в шахматы, победив лучшие специализированные шахматные алгоритмы, которые обыгрывали самых сильных шахматистов. Демис Хассабис сказал мне, что AlphaZero, возможно, служит универсальным решением для игр «с полной информацией», то есть для таких задач, где легкодоступна вся необходимая информация, скажем фигурки на игровой доске или пиксели на экране.

Разумеется, реальный мир, в котором мы живем, далек от полноты информации. Почти все области, где мы хотели бы когда-нибудь использовать продвинутый искусственный интеллект, требуют способности действовать в условиях неопределенности и справляться с ситуациями, в которых огромные объемы информации скрыты или просто недоступны. В январе 2019 года DeepMind снова продемонстрировала прогресс, выпустив AlphaStar — систему для игры в стратегию StarCraft. StarCraft моделирует галактическую войну за ресурсы между тремя внеземными расами, каждой из которых управляет онлайновый игрок в реальном времени. StarCraft не является игрой с полной информацией — игроки должны вести «разведку», чтобы узнать скрытую информацию о том, чем заняты противники. Также требуется навык долгосрочного планирования и управления ресурсами в огромном игровом пространстве. Очередным триумфом команды DeepMind стала победа AlphaStar над сильнейшим профессиональным игроком в StarCraft с разгромным счетом 5:0 в турнире, проведенном в декабре 2018 года[201].

Это впечатляющие достижения, однако они по-прежнему не преодолевают принципиальные ограничения, привязывающие современные ИИ-системы к узким областям. Например, AlphaStar требует масштабного обучения, как контролируемого, так и с подкреплением, для игры за определенную расу инопланетян. Переход к другой расе с иными сильными сторонами требует полного переобучения. Аналогично AlphaZero легко становится сильнейшим в мире игроком в шахматы или сёги, но она и ребенка не обыграет в шашки без соответствующего переобучения. Даже самые мощные системы, представляющие передовой рубеж исследования ИИ, являются поверхностными и хрупкими. Как отмечает Орен Эциони из Института Аллена, любая из этих систем продолжит невозмутимо играть, даже если узнает, что комната объята пламенем[202]. У них нет здравого смысла, нет подлинного понимания.

Сколько времени понадобится, чтобы преодолеть эти ограничения и создать по-настоящему мыслящую машину? В процессе разговоров с лучшими умами в сфере ИИ, приведенных в моей книге «Архитекторы интеллекта», я просил дать прогноз, в каком году универсальный искусственный интеллект может быть создан хотя бы с 50 %-ной вероятностью. Большинство опрошенных пожелали сохранить анонимность своих предсказаний, а пять исследователей отказались дать прогноз, отметив, что путь к ИИ человеческого уровня отличается огромной неопределенностью и что придется преодолеть неизвестно сколько препятствий. Тем не менее 18 ведущих мировых экспертов в области