Власть роботов. Как подготовиться к неизбежному - Мартин Форд Страница 32

Обычно мы описываем обучение с подкреплением как действие основанного на вознаграждении алгоритма, оптимизирующего некоторые внешние макропроцессы, например освоение игры го или навыка вождения смоделированного автомобиля. Однако Хассабис отмечает, что обучение с подкреплением также играет определяющую роль в головном мозге и может являться обязательным условием возникновения разума. Вполне возможно, что обучение с подкреплением — первичный механизм, побуждающий мозг проявлять любопытство, учиться и мыслить. Представим, например, что естественная задача мозга сводится к исследованию и последующему упорядочиванию потока необработанных данных, непрерывно воспринимаемых животным, движущимся в своей среде обитания. По словам Хассабиса, «мы знаем, что при взгляде на что-то новое и необычное в мозге вырабатывается дофамин», и если мозг так устроен, что «поиск информации и ее структурирование само по себе есть вознаграждение, то это чрезвычайно полезная мотивация»[162]. Иначе говоря, двигателем, поддерживающим наше постоянное стремление к постижению окружающего мира, вполне может быть алгоритм обучения с подкреплением, связанный с выработкой дофамина.

Совершенно другого подхода к созданию универсального машинного интеллекта придерживается Дэвид Ферруччи, генеральный директор и основатель стартапа в области ИИ Elemental Cognition. Ферруччи более известен как глава команды, создавшей Watson, систему IBM, победившую Кена Дженнингса и других сильнейших игроков в Jeopardy! в 2011 году. После триумфа Watson Ферруччи ушел из IBM и присоединился к хедж-фонду с Уолл-стрит Bridgewater and Associates, где, по слухам, работал над использованием искусственного интеллекта для осмысления макроэкономики и помог воплотить управленческую и инвестиционную философию основателя Bridgewater Рэя Далио в алгоритмы, повсеместно используемые в фонде.

Сейчас Ферруччи совмещает должности директора по прикладному ИИ в Bridgewater и руководителя Elemental Cognition, получившей первоначальное венчурное финансирование от хедж-фонда[163]. Ферруччи сказал мне, что целью Elemental Cognition является «подлинное понимание речи». Компания создает алгоритмы, способные автоматически читать тексты и затем поддерживать интерактивный диалог с людьми, в котором система углубляет понимание прочитанного, а также может объяснить свои выводы. Далее Ферруччи пояснил:

Мы хотим копнуть глубже внешней структуры языка, глубже паттернов, проявляющихся в частоте словоупотребления, и добраться до стоящего за ними смысла. На этой основе мы хотим строить внутренние логические модели, которые люди могут создавать и использовать в мышлении и коммуникации. Мы хотим получить систему, поддерживающую совместимый интеллект, способный при взаимодействии с человеком самостоятельно учиться и углублять понимание речи, диалога и тому подобного[164].

Это чрезвычайно смелая цель, на мой взгляд, очень близкая к созданию интеллекта человеческого уровня. Существующие ИИ-системы, обрабатывающие естественный язык, имеют те же самые ограничения, что продемонстрировала созданная DeepMind система DQN для игр Atari, когда ракетку сместили на несколько пикселей вверх. Точно так же, как DQN не понимает, что пиксели на экране представляют физический объект, который можно перемещать, сегодняшние системы распознавания языка реально не понимают, что означают слова, которые они обрабатывают. Вот какой вызов приняла компания Elemental Cognition.

Ферруччи явно уверен, что решение задачи понимания языка — самый верный путь к созданию универсального интеллекта. Вместо того чтобы погружаться в физиологию мозга, как команда из DeepMind, Ферруччи считает возможным напрямую сконструировать систему, способную приблизиться к человеку по уровню понимания речи и использования логики и мышления. Его отличает от остальных исследователей ИИ убежденность, что базовые кирпичики для создания универсального интеллекта у нас уже есть. Как говорит он сам, «я не считаю, подобно другим, что мы не знаем, как это сделать, и ждем какого-то колоссального прорыва. По-моему, это не так. На мой взгляд, мы прекрасно знаем, что делать, осталось лишь продемонстрировать результат»[165].

Ферруччи с большим оптимизмом оценивает вероятность достижения этой цели в относительно близком будущем. В документальном фильме 2018 года он сказал: «Не пройдет и трех-пяти лет, как мы получим компьютерную систему, способную самостоятельно учиться понимать во многом так же, как это делает человеческий мозг»[166]. Когда я подловил его на этом прогнозе, он немного сдал назад, признав, что три-пять лет, пожалуй, слишком оптимистичный прогноз. Тем не менее, по его словам, он по-прежнему «считает, что мы сможем это увидеть в течение следующего десятилетия или около того. Ждать 50 или 100 лет не придется»[167].

Чтобы достичь этой цели, команда из Elemental Cognition создает своего рода гибридную систему, включающую глубокие нейронные сети и реализации других методов машинного обучения в сочетании с программными модулями поддержки логики и мышления, основанными на традиционных методах программирования. Эффективность гибридного подхода (в противоположность стратегии, опирающейся исключительно на нейронные сети) обещает стать одним из важнейших дискуссионных вопросов в сфере ИИ.

Рэй Курцвейл, в настоящее время технический директор Google, также пытается приблизиться к универсальному интеллекту, идя по пути, сильно ориентированному на понимание речи. Курцвейл прославился, издав в 2005 году книгу «Сингулярность уже близка»[168], благодаря которой стал считаться самым видным пропагандистом идеи «сингулярности». Курцвейл и его многочисленные последователи верят, что в один прекрасный день сингулярность приведет к появлению сверхчеловеческого машинного интеллекта, обусловив резкий перелом и крутой подъем кривой исторического развития человечества. В этой точке перегиба ускорение технологического прогресса станет настолько быстрым, что полностью, в немыслимых масштабах, преобразует каждую составляющую нашей жизни и цивилизации.

В 2012 году Курцвейл опубликовал еще одну книгу — «Как создать разум», в которой обрисовал концептуальную модель человеческого мышления[169]. По его мнению, в головном мозге действует около 300 млн иерархических модулей, каждый из которых «способен распознавать последовательный образ и допускает определенную степень изменчивости»[170]. Курцвейл считает, что на основе этого модульного подхода можно в конце концов создать систему, способную учиться на намного меньшем объеме данных, чем современные системы глубокого обучения, в которых используется только контролируемое обучение или только обучение с подкреплением. Курцвейл обратился к Ларри Пейджу из Google за финансированием венчурного предприятия для практического воплощения этих идей. Но Пейдж убедил его вместо этого прийти в Google и реализовать свое видение, используя такое преимущество, как колоссальные вычислительные ресурсы компании.

На протяжении нескольких десятилетий Курцвейл предсказывает — и по-прежнему в это верит, — что универсальный ИИ будет создан примерно в 2029 году. В отличие от многих исследователей ИИ, он сохраняет веру в тест Тьюринга как эффективный показатель интеллекта человеческого уровня. Этот тест, предложенный Аланом Тьюрингом в статье 1950 года, в сущности представляет собой диалог, в