Власть роботов. Как подготовиться к неизбежному - Мартин Форд Страница 2

моей книги «Роботы наступают: Развитие технологий и будущее без работы»[4] я выступил с докладом о последствиях появления искусственного интеллекта и роботов на десятках технологических конференций, региональных собраний, а также корпоративных и академических мероприятий. Я побывал более чем в 30 странах и имел возможность посещать исследовательские лаборатории, присутствовать на демонстрации революционных технологий и участвовать в дебатах о перспективах разворачивающейся революции искусственного интеллекта с техническими экспертами, экономистами, руководителями предприятий, инвесторами и политиками, а также неспециалистами, которые видят происходящие изменения и начинают из-за них беспокоиться.

Во-вторых, в 2017 году я начал работать с командой из французского банка Société Générale над созданием фондового индекса, который позволил бы инвесторам извлекать непосредственную выгоду из революции в области искусственного интеллекта и робототехники. В качестве эксперта-консультанта я участвовал в выработке стратегии на основе понимания ИИ как нового мощного общедоступного ресурса, создающего стоимость и являющегося источником трансформации бизнеса в широком комплексе отраслей. В результате появился индекс Société Générale Rise of Robots, а потом Lyxor Robotics и AI ETF[5] (биржевой индексный фонд) на основе этого индекса.

Наконец, на протяжении 2018 года я имел возможность обсудить широкий круг вопросов с 23 ведущими мировыми исследователями ИИ и предпринимателями в области искусственного интеллекта. Это настоящие Эйнштейны в своей сфере — четверо из них удостоились премии Тьюринга, эквивалента Нобелевской премии в области компьютерных наук. Наши беседы, посвященные будущему искусственного интеллекта, а также рискам, сопутствующим прогрессу, собраны в моей книге «Архитекторы интеллекта: Вся правда об искусственном интеллекте от его создателей»[6], изданной в США в 2018 году. Я активно использовал эту уникальную возможность, чтобы узнать, о чем думают выдающиеся умы в области ИИ, и содержание этой книги в значительной степени опирается на их идеи и прогнозы.

Представление искусственного интеллекта как нового электричества — хорошая модель для рассуждений о дальнейшем развитии этой технологии, которая в конечном счете затронет практически все области экономики, общественной жизни и культуры. Следует, однако, сделать одну существенную оговорку. Электричество обычно рассматривается как однозначно полезная сила. Пожалуй, трудно отыскать в развитой стране человека — исключая разве что самых убежденных отшельников, — имеющего основания жаловаться на электрификацию. Искусственный интеллект — иное дело: у него есть темная сторона, и ему сопутствуют реальные опасности как для отдельных людей, так и для общества в целом.

Постоянно развивающийся искусственный интеллект способен совершить на рынке труда и в экономике в целом переворот беспрецедентного масштаба. Практически любую работу, рутинную и предсказуемую по своему характеру, иными словами, почти любые профессиональные обязанности, исполнитель которых постоянно решает одни и те же задачи, можно полностью или частично автоматизировать. Исследования показали, что до половины работающих американцев заняты подобной предсказуемой деятельностью и в одних только Соединенных Штатах могут со временем исчезнуть десятки миллионов рабочих мест[7]. Удар будет нанесен не только по низкооплачиваемым неквалифицированным работникам. Многие администраторы и специалисты также выполняют относительно рутинные обязанности. Особенно высок риск автоматизации предсказуемой интеллектуальной деятельности, поскольку ее может выполнять программное обеспечение. В отличие от этого, для ручного труда нужен дорогостоящий робот.

Вопрос влияния автоматизации на трудовые ресурсы остается дискуссионным. Будет ли создано достаточно новых рабочих мест в тех сферах, автоматизация которых невозможна, чтобы поглотить трудящихся, теряющих работу рутинного характера? Если да, то хватит ли у этих трудящихся умений, способностей и личностных качеств, чтобы успешно перейти на вновь созданные рабочие места? Едва ли большинство бывших водителей грузовиков или работников предприятий быстрого питания смогут стать инженерами-робототехниками — или, если уж на то пошло, специалистами по уходу за престарелыми. На мой взгляд, который я изложил в книге «Роботы наступают», значительной доле нашего трудоспособного населения в конечном счете грозит опасность остаться за бортом из-за развития ИИ и робототехники. Кроме того, как мы скоро увидим, есть все основания предполагать, что пандемия коронавируса и связанный с ней экономический спад ускорят воздействие искусственного интеллекта на рынок труда.

Даже если не рассматривать полное исчезновение рабочих мест вследствие автоматизации, то технологии уже влияют на рынок труда в других отношениях, которые должны встревожить нас. Существует опасность того, что на рабочие места, традиционно занимаемые представителями среднего класса, станут требоваться менее квалифицированные исполнители. Низкооплачиваемый работник, слабая подготовка которого компенсируется технологиями, сможет занять должность, которая прежде предполагала более высокий размер оплаты труда. Люди все чаще трудятся под контролем алгоритмов, которые следят за работой или задают ее темп, фактически превращая их в виртуальных роботов. Многие новые рабочие места создаются в гиг-экономике, в условиях которой трудящиеся обычно имеют непредсказуемый режим работы и доходы. Все это усиливает неравенство и в будущем может обернуться унижающими человеческое достоинство условиями труда для все большей доли работников.

Помимо негативного влияния на рынок труда и экономику, развитие искусственного интеллекта повлечет за собой множество других неприятных последствий. Наиболее явная из них — угроза нашей безопасности в целом. Имеются в виду кибератаки с использованием ИИ на физическую инфраструктуру и важнейшие системы, которые все в большей степени становятся взаимосвязанными, а также угрозы демократическому процессу и общественному устройству. Приписываемое России вмешательство в президентские выборы 2016 года является относительно безобидной демонстрацией того, что может ждать нас в будущем. Искусственный интеллект со временем способен стать источником еще более совершенных «фейковых новостей», поскольку позволяет фабриковать фотографии, аудио— и видеозаписи, практически неотличимые от настоящих, а армии по-настоящему продвинутых ботов когда-нибудь оккупируют социальные сети, будут сеять смуту и, потенциально, формировать общественное мнение.

В мире — особенно в Китае — системы слежения, использующие распознавание лиц и другие технологии на основе ИИ, применяются для колоссального увеличения власти и влияния авторитарных правителей и уничтожения неприкосновенности частной жизни. В Соединенных Штатах были случаи, когда системы распознавания лиц демонстрировали предвзятость по расовому или гендерному признаку, как и алгоритмы, использующиеся для отбора резюме и даже предоставления рекомендаций судьям в системе уголовного правосудия.

Пожалуй, самая пугающая и близкая угроза — это разработка полностью автономного оружия, способного убивать без обязательного участия человека, санкционирующего его применение. Такое оружие в принципе может применяться против целых народов, и от него будет крайне трудно защититься, особенно если оно попадет в руки террористов. Многие представители сообщества исследователей ИИ являются убежденными противниками такого развития событий, и в ООН выдвинута инициатива по запрету подобных систем вооружений.

Не исключено, что в дальнейшем мы столкнемся с еще более серьезной опасностью. Может ли искусственный интеллект представлять экзистенциальную угрозу для человечества? Не создадим ли мы однажды «суперинтеллектуальную» машину — нечто, настолько превосходящее нас, что оно сможет — намеренно