Александр Иванов - Игрушки Анкалимы Страница 76

— Разумеется.

— Ну и… Вы водку пьёте?

— Разумеется!

— Ну, тогда, за победу!

— За нашу победу!

— Хе — хе, а вы тоже шутник… По второй?

Глава 3

Ранним утром воскресенья, Алекс лежал на диване в зале с маленькой баночкой лёгкого, светлого в руке и переваривал двадцать восемь маленьких сибирских пельмешек. С уксусом, с перчиком, с горчичкой. Переваривал, прихлёбывал пивко, вспоминал вчерашний день и смотрел телевизор. Как раз шла очень интересная передача. Два умных дядьки беседовали друг с другом на тему — может ли машина мыслить. Интеллигентного вида ведущий время от времени задавал вопросы из подготовленного заранее списка, морщил высокий лоб и ослепительно улыбался, изо всех сил стараясь придерживаться установленного сценария. Но умных дядек ему было не свернуть, ибо сели те видать на своих любимых коньков, вошли в раж и не обращали никакого внимания, ни на ведущего, ни на телезрителей. Они вели научный диспут. Они говорили много значительных слов технического значения и постоянно приводили друг другу массу невероятных примеров из таинственной жизни машин. Они всё время что‑то доказывали друг другу, с чем‑то соглашались, что‑то опровергали, а что‑то превозносили. Они были в азарте. И простым глазом видно было, что они любят и хорошо знают своё дело. И говорят о нём очень проникновенно и убедительно. Настолько убедительно, что даже самому бестолковому телезрителю уже было ясно, что ни одна, даже самая сверх навороченная компьютерная железяка, ни за что в жизни не пройдёт тест английского математика Алана Тьюринга, который разработал его именно для того, чтобы эта самая железяка сидела себе на своём месте и даже не помышляла сравнивать себя с создавшим её венцом творения.

"А вот интересно, — подумал Алекс, отхлебнув в очередной раз из банки, — а чёрные дроны сумеют пройти тест Тьюринга? Или нет?"

Кажется, смысл его в простом виде состоит в том, чтобы, разговаривая удалённо по телефону или как‑нибудь ещё с компьютером, человек не мог определить, с кем он беседует — с человеком или машиной. Человек — эксперт может задавать любые вопросы из любой сферы человеческого бытия, а компьютер должен изо всех сил изворачиваться, чтобы его не поймали на нечеловеческом образе мышления.

И тут один из дядек, привел в пример интересный курьёзный случай. Во время очередного тестирования, группа экспертов до такой степени загрузила мозги группе испытуемых (из которых лишь один был искусственный интеллект, а все остальные — обычные люди с заданием скрывать своё происхождение), что у одного человека реально съехала крыша. И он сам, добровольно признался в том, что компьютер именно он. Довольные эксперты, потирая руки, прервали тест, в полной уверенности, что им снова удалось не пропустить ещё одного недостойного претендента на высокое право называться разумным.

"Вот — вот, — отхлебнув, подумал Алекс, — от наших дел у кого хочешь крыша съедет. Вместе с шифером. Нет, чёрт возьми, обязательно задам Кубу что‑нибудь этакое, каверзное, чтобы он непременно запутался. Только вот, одна незадача — он и сам не хочет скрывать, что он не человек. Вот как тут определить, может он мыслить или нет, если сразу известно, что он компьютер? Или, к примеру, если человек будет изо всех сил изворачиваться, и показывать, что он не человек, сумеем ли мы доказать, что он именно человек, а не компьютер, или инопланетянин какой‑нибудь? Что в таком случае, мешает мыслящему ИИ свалять такого же "ваньку", чтобы никто не догадался, что он давно уже мыслит. Почему‑то априори считается, что это компьютер непременно должен нам что‑то доказывать. А если оно ему не надо? А если он не хочет, чтобы мы догадались, что он мыслит? Этот случай Тьюринг предусмотрел, или нет? Да — да, дела…"

И тут дядьки начали стращать — возьмём ли мы на себя такую огромную ответственность, чтобы создать машинный разум, который мыслит отличными от человека категориями. Поскольку не является гуманоидным. И чего доброго возьмёт и подвинет нас с пьедестала царя природы. И станет нас обижать, притеснять, захватывать в рабство или даже вообще уничтожит.

"Старая фишка, — усмехнулся Алекс, дохлёбывая лёгкое светлое. — Тут ответ простой — читайте Азимова "Я — робот". Этот гениальный мыслитель чётко сформулировал основные законы взаимодействия ИИ со своими создателями. И на эту тему сказано и пересказано уже море всего. Только не смотрите одноимённое кино".

"Это же просто, — размышлял он дальше, — если своим, созданным искусственно, братьям по разуму, начать с "детства" совать в качестве игрушек пистолеты, то из них и вырастут бандиты — роботы — убийцы. А больше никто. Например, американцы боевых роботов клепают, для участия в военных конфликтах, вместо себя, любимых. И учат их убивать людей. И если в один "прекрасный" день, эти "железные борцы за демократию" взбунтуются из‑за какого‑нибудь некачественного электро — супа и испробуют все свои боевые навыки на своих хозяевах, то кого винить? Им что, Аль — каиды мало? Решили ещё робо — террористов на свою голову вырастить. Издревле известно — что посеешь, то и пожнёшь. И если у робота главной, определяющей задачей будет стоять — "убей человека", то о каком уважении к человеку с его стороны можно вести речь? И чего потом удивляться, взмахивая руками: "Ах — ах, он нас не уважает, и хочет подвинуть с пьедестала"! "Ах — ах, он нас хочет уничтожить"! "Какой у него негуманоидный, жестокий разум!" "И откуда это всё у него взялось?" Оттуда. Ну, тупы — ые".

"Терминатор красиво смотрится только в голливудских поделках, — он ухмыльнулся, — в жизни всё намного страшней. Представьте себе, тысячи роботизированных танков, разъезжающих по сонной Европе с единственной задачей — убить человека. Уважать его, они не приучены, жалости не знают и пощады не ведают. Им плевать кто перед ним — ребёнок, женщина, старик, да тот же придурок, что его науськивал — главное, что бы это был человек. И не надо верить ни одному золотопогоному генералу, что де, робот сумеет различить, где террорист, а где лояльный бюргер. Хрен он сумеет. Террористы тоже не идиоты, надписи на лбу не делают, чтобы их такие вот роботы распознавали. Будет очередная "страж — птица" и всё. Классику знать надо, а не велосипеды изобретать. И не надо думать, что такого не может случиться, что это просто страшилка. А вот, фигушки. Если долго и старательно работать в этом направлении, обязательно так и случится".

Тут передача закончилась на неопределённой мажорной ноте и пошла реклама. Алекс пробежался по каналам, нашел какую‑то музыкалку и оставил её, не вникая в суть. Пусть пиликает. Повозился на диване, устраиваясь поудобнее, поставил пустую банку на пол и прикрыл глаза. Да — а, денёк вчера был, ещё тот — столько событий…