Сергей Тараненко - Наполовину мертвый кот, или Чем нам грозят нанотехнологии Страница 37

Но что получается? Военная техника становится все сложнее — она сама как «робот», если сбросить со счетов требование антропоморфности. И управлять ею будут такие же автоматы? Это то же самое, что и просто автономный автомат, только он состоит из двух частей. А что такое автомат, самостоятельно принимающий решение убить или не убить, нетрудно догадаться.

«Политкорректный» Запад уже сейчас озабочен тем, как превратить роботов поля боя не просто в терминаторов, а в «гуманных» терминаторов. В частности, такими исследованиями начиная с 60-х годов прошлого века занимается Исследовательский центр ВМФ США. Публичным результатом этих исследований стала недавно опубликованная концепция использования боевых роботов под аккуратным названием «Концепция операций вооруженных автономных систем». Концепция предполагает, что роботы будут бороться не с «носителями оружия», а с самим оружием. Если при этом все-таки будет убит или ранен вражеский солдат, например танкист, который почему-то находится непосредственно внутри оружия, или моряк вражеского флота, которому почему-то затруднительно покинуть боевой корабль посреди океана, подобные «огрехи» можно будет расценивать как извинительную ошибку.

В такого рода концепциях уже заложена автоматическая реализация важнейшего риска, связанного с использованием высокотехнологических средств ведения войны, таких как робототехника. Это риск лицемерия, риск оправдания войны как гуманного действия. Тезис концепции, что главной задачей армий является не «выигрыш войны», а «выигрыш мира», такой же эвфемизм, как и «гуманитарные бомбардировки». В борьбе за мир мы не оставим камня на камне.

Следует обратить внимание и на следующий аспект «гуманизации» боевых действий. Сама постановка этой проблемы наводит на мысль, что «боевые действия» будут вестись не против регулярных воинских подразделений, когда подобные оправдания излишни: война есть война, а против населения. Вот где обезличенность действующего лица (и действующего «по определению» гуманно) действительно пригодится. Если человек убил человека не на поле боя — это убийство, это осуждается, за это может наступить и иногда наступает ответственность уголовного характера. А вот если человек убит «автономной системой», то это лишь несчастный случай, и ответственность, в лучшем случае, ограничится извинениями и оказанием материальной помощи.

Впрочем, сделать до конца «автономную систему», принимающую решение о применении оружия, так, чтобы можно было положиться на ее «решения», — сложно. Такая система должна уметь «думать». Речь идет не о следовании (пусть и не простом) алгоритмам распознавания свой-чужой и сопровождения целей, как это происходит уже сегодня на системах крупных военных кораблей, а о принятии решений в условиях недостатка информации и нестандартных ситуаций, именно тех решений, которые с переменным успехом принимает человек.

Нужен искусственный мозг, умеющий думать. Тот самый «мозг навынос», о котором написано в предыдущей главе. Но можно поступить проще. Для того чтобы получить эффективного боевого робота, можно не машину превращать в человека, а напротив — человека в машину. И этот путь, также требующий множества нанотехнологических решений, более перспективен.

Первым шагом является обеспечение воина эффективной защитой. Это и бронежилет, не только не пробиваемый, но и поглощающий энергию выстрела без травмирующих последствий для носящего, многоразовый и легкий. Это и автоматические системы медицинского обеспечения жизнедеятельности воина в экстремальных условиях, включая стимулирующие инъекции, это и «бортовые» системы навигации, связи и дистанционного наблюдения, как это описано в п. 6.2 «Электронный вертел». При этом следует подчеркнуть, что такой боевой костюм не обязан защищать воина. Он скорее ориентирован на его боевую эффективность, и лишь там, где требование эффективности означает обязательно выживание, он действительно «защищает» воина. Но последствия его «ношения» — уже после боевых действий — для человека могут быть самыми тяжелыми. Ближайший пример — костюм-скафандр водолаза. Он, конечно, защищает водолаза и от воды, и от ее давления, но здоровья водолазам это не добавляет.

Но первого шага недостаточно. Для ведения эффективных боевых действий нужно переделать самого человека. Неверно думать, что, надев такой костюм, любой становится эффективным или хоть каким-нибудь воином. Подготовка российских десантников или американских морских пехотинцев тому пример. Это, так сказать, внетехнологические способы переделки человека в боевой автомат. Но ведь возможны и технологические. Помните насекомое, которое летит туда, куда ему прикажут по радиосвязи? А если попытаться сделать нечто подобное с человеком? Правда, ситуация сложнее. Мы хотим оставить человеку возможность думать и принимать решения, но, конечно, в рамках приказов, а точнее, передаваемых сигналов. При этом действия таких воинов-машин могут быть скоординированы, подобно тому, как предполагается скоординировать действия роя насекомых-наноботов.

Ведение боевых действий требует предельной эффективности, ведь на кону человеческие жизни. И именно поэтому человеческие жизни могут быть принесены в жертву этой эффективности. Такова логика войны. А это означает, что в погоне за эффективностью воин все больше будет превращаться в машину, все меньше оставаясь человеком. Чтобы он не чувствовал боли или страха, мы начнем управлять его сознанием. Его многократное «применение» потребует управления памятью. Нам потребуются быстрые мышечные реакции и мы начнем переделывать тело, как это описано в п. 5.1 «Бегун на протезах». А что будет потом? Как эти люди будут жить среди нас? Частичный ответ на этот вопрос мы найдем, посмотрев на «успехи» социализации воинов, прошедших горячие точки, таких как Афганистан или Чечня.

В условиях современного боя средняя продолжительность жизни танка составляет три минуты. Кстати, вместе с находящимися в нем танкистами.

Высокие технологии, примененные в военных целях, не только превращают человека в машину. Они заставляют нас относиться к человеку как к машине — ведь он лишь составная ее часть.

И нанотехнологии делают в этом направлении огромный шаг.

Древние грезили машиной-человеком, сделанной по технологиям Господа из глины. Мы — по нашим технологиям — создаем человека-машину. Но в обоих случаях — это голем: после выполнения предназначения он не нужен.

Риск лицемерия — риск оправдания войны как гуманного действия.

Риск безответственности автономного оружия убийства.

Риск создания эффективной машины-человека с утратой базовых человеческих свойств.

Риск технологического синдрома «афганца».

Риск переноса отношения — отношение к человеку как к машине.

ЧАСТЬ III

НОВАЯ РЕАЛЬНОСТЬ

Глава 7

Нарушение системы

7.1. Ключи от мира. Технологические пакеты

Барабан может заглушить весь оркестр, но не может заменить его.

Развитие нанотехнологий, как уже говорилось, по мнению большинства экспертов, ведет к смене технологического уклада. Наша привычная жизнь уступает место тому, что нам пока неизвестно, а, возможно, и чуждо — как когда-то было чуждо человеку многое из того, без чего современная картина жизни немыслима.

Нанотехнологии образуют стержень этих изменений. Но изменения затронут, без исключения, все стороны нашей жизни и уж тем более технологии — те технологии, которые будут иметь место, но которые мы, по нашим критериям, собственно к нанотехнологиям не относим.

Почему так получается? Когда изменения происходят плавно, относительно малыми шагами, мы многого не замечаем. Мы думаем — вот поменяли одну технологию на другую, а остальное ведь прежним осталось. Ну, если и изменилось, то не принципиально. Ну, заменили мы домну на мартен. Сталь, конечно, стала лучше, дешевле, ее стало больше. Но ведь и там сталь — и там сталь. Есть ли принципиальная разница, из какой стали сделан кузов автомобиля?

А вот если изменения происходят резко, скачкообразно, то многое из того, как устроена наша технологическая цивилизация, становится видно. Нет, когда мир менялся медленно, он был устроен также. Просто у нас не было необходимости это замечать.

Итак, как этот мир устроен? Объяснение было дано футурологами, которые как раз столкнулись с проблемой предсказания того, что будет в долгосрочной перспективе (поверьте, эта «долгосрочная» перспектива не за горами) с миром из-за бурного развития технологий: прежде всего с развитием нанотехнологий, информационных технологий, биотехнологий, составляющих ядро современного технологического развития или, как говорят, составляющих «технологический мейнстрим». К технологическому мейнстриму разные эксперты относят различные технологии, и, возможно, справедливо. Одни относят технологии эффективного природопользования (помните, что мы говорили в начале книги об экологии как о подходе, ориентированном не на человека, как о негуманном подходе — на самом деле мы природу не бережем, мы ею пользуемся, но надо это делать эффективно). Другие относят когнитивные технологии, обеспечивающие связь технологического и, быть может, уже не машинного мира с мозгом человека. Но важно то, что такой мейнстрим есть. И трудно сказать, где заканчиваются одни технологии и начинаются другие. Информационные системы будут построены из нанодеталей, последние будут смоделированы на мощнейших компьютерах. Живые и неживые технологии перемешаются — грань между ними перестанет быть отчетливой. Нанотехнологии позволят нам беречь ресурсы — мы перестанем коверкать и корежить мир, в котором живем.