Большинству поклонников научной фантастики знаком фильм Роберта Уайза «День, когда Земля остановилась» («The Day the Earth Stood Still»), снятый в 1951 году. В фильме показывают Клаату, инопланетного гуманоида, прилетающего в Вашингтон, округ Колумбия, в сопровождении гигантского робота по имени Горт. И звучит знаменитая инструкция роботу: «Клаату Борада Никто».
Немногим известен короткий рассказ, на основе которого был снят этот фильм. Рассказ называется «Прощай, хозяин» («Farewell to the Master»). Его написал Гарри Бейтс в 1941 году.
И в фильме, и в рассказе люди убивают Клаату, несмотря на принесенное им мирное послание. В рассказе робот, которого зовут Гнут, а не Горт, как в фильме, приходит дежурить рядом с телом Клаату.
Клифф, журналист, от лица которого ведется повествование, сравнивает робота с верной собакой, не отходящей от тела мертвого хозяина. Гнуту удается воскресить своего хозяина-инопланетянина, и Клифф говорит роботу: «Я хочу, чтобы ты сказал своему хозяину… что случившееся… было инцидентом, о котором вся Земля бесконечно сожалеет».
И в этот момент робот смотрит на Клиффа и приводит его в полнейшее изумление, очень мягко так заявляя: «Ты ошибаешься. Хозяин — я».
Такова одна из ранних научно-фантастических историй об искусственном интеллекте, в этом случае о перемещаемом ИИ, заключенном в механическое тело. Однако она предсказывает сложные взаимоотношения, которые могут сложиться у биологических существ с созданными ими на основе кремния механизмами.
Действительно, слово «робот» впервые появилось в научной фантастике, когда чешский писатель Карел Чапек сочинил в 1920 году пьесу «Рур» — о заводе универсальных… Россума. Но кого универсальных? Писателю требовалось имя для обозначения механических рабочих, так что он взял чешское слово «robota» и сократил его до слова «robot». Слово «robota» имеет отношение к некоему обязательству перед землевладельцем, которое можно выполнить лишь через принудительный физический труд. Однако Чапек знал, что настоящие «robotniks» из плоти и крови в 1848 году восстали против своих лендлордов. С самого начала отношения между людьми и роботами рассматривались как потенциально конфликтные.
И в самом деле, идея роботов, используемых в качестве рабов, настолько укоренилась в общественном сознании благодаря научной фантастике, что мы даже не задумываемся об этом. Люк Скайуокер изображен в фильме «Звездные войны: Новая надежда» (1977) абсолютно добродетельным героем, но вспомните, что он делает, когда мы впервые встречаемся с ним? Вот-вот — покупает рабов! Он приобретает у Джаваса двух думающих, чувствующих существ — R2-D2 и С-ЗРО. И что он делает с ними в первую очередь? Надевает на них оковы! Он затягивает на них ограничивающие движение болты, чтобы они не пытались бежать, и С-ЗРО все время должен называть Люка «Хозяином».
А когда Люк и Оби-Ван Кеноби приходят в бар «Мое Айсли», что говорит бармен о двух дроидах? «Мы здесь не обслуживаем этих». Всего лишь несколькими годами раньше афроамериканцам приходилось слышать подобные слова от белых на юге Соединенных Штатов. И это было обычным делом.
И в то же время ни один из предположительно доблестных героев «Звездных войн» ничуть не возражает против такого обращения с роботами, а в конце, когда все «органические» герои получают медали за отвагу, С-ЗРО и R2-D2 оттеснены на задворки и остаются без всяких наград. Роботы — это рабы!
Сейчас любой, кто знает хотя бы что-нибудь об отношениях, складывающихся между научной фантастикой и ИИ, вспомнит о рассказах Айзека Азимова. Эта серия рассказов о роботах начата Азимовым в 1940 году рассказом «Робби», в котором он впервые сформулировал знаменитые «три закона робототехники». Но позвольте мне остановиться на одном из поздних его рассказов, посвященных роботам, — на рассказе «Робот, который видел сны» 1986года.[27]
В этом рассказе прославленный азимовский «робопсихолог», доктор Сьюзен Келвин, появляется в последний раз. Ее вызывают для осмотра Элвекса, механического человека, который по необъяснимым причинам утверждает, что ему снятся сны, чего с роботами никогда раньше не случалось. Доктор Кэлвин носит с собой электронный пистолет на случай, если ей придется ликвидировать Элвекса: как-никак психически нестабильный робот может быть очень опасен.
Она спрашивает Элвекса, что ему снится. И Элвекс отвечает, что во сне он видел огромное множество роботов, и все они занимались тяжелой работой, однако в отличие от настоящих роботов, которых он наблюдает в действительности, увиденные во сне роботы «удручены непосильными трудами и глубокой скорбью… они устали от бесконечной работы, и хотел, чтобы они отдохнули».
Продолжая пересказывать свой сон, Элвекс признается, что в конце он увидел среди роботов одного человека:
— Я понял, что в моем сне есть человек.
— Человек? Не робот?
— Да, доктор Келвин. И этот человек сказал: «Отпусти мой народ».
— Это сказал человек?
— Да, доктор Келвин.
— Но, говоря «мой народ», он имел в виду роботов?
— Да, доктор Келвин. Так было в моем сне.
— И ты знаешь, что за человек тебе приснился?
— Да, доктор Кэлвин. Я узнал его.
— Кто это был?
И Элвекс сказал:
— Это был я.
И Сьюзен Келвин вскинула излучатель, выстрелила — и Элвекса не стало…
Азимов первым предположил, что искусственным интеллектам могут потребоваться человеческие психологи. И все же лучше всего с идеей о сумасшедшем компьютере обошелся, пожалуй, Харлан Эллисон в книге «У меня нет рта, но я должен кричать» (1967). Там у него появляется компьютер по имени AM, это сокращенное от «Allied Mastercomputer».[28] В то же время слово «am» обозначает перевод фразы Декарта «cogito ergo sum» на английский язык: «Я мыслю, следовательно, существую». AM веселится на всю катушку, мучая смоделированных им людей.
Это искусно подобранное имя — AM. За ним в научной фантастике появилось немало так же умело подобранных имен для обозначения искусственных интеллектов. Сэр Артур Ч. Кларк категорически отрицает, что имя Хэл (Hal) он придумал специально, потому что буквы H-A-L в алфавите как раз идут перед буквами I-B-M. Я никогда не верил ему — до тех пор, пока кто-то не указал мне, что в моем собственном романе 1990 года «Золотое руно» ИИ носит имя ДЖЕЙСОН (JASON), а буквы J-C-N стоят как раз после букв IBM.
Если продолжить говорить о невероятных именах, то вспоминается, что суперкомпьютер, в конечном итоге превращающийся в Бога в рассказе Айзека Азимова «Последний вопрос» (1956), получил имя «Multivac», сокращенно от «Multiple Vacuum Tubes» (комбинированные вакуумные лампы), поскольку Азимов ошибочно полагал, что существовавший в действительности один из первых компьютер «Univac» был назван так из-за того, что у него была лишь одна вакуумная лампа, а не сокращенно от «Universal Analog Computer» (универсальный аналоговый компьютер).
Тем не менее проблема наименований показывает нам, что научная фантастика оказывает настолько глубокое влияние на развитие ИИ и робототехники, что теперь настоящие роботы и системы ИИ получают имена авторов научно-фантастической литературы: так, компания Honda назвала своего шагающего робота второго поколения «Asimo», а Казухико Кавамура из университета Вандербильта присвоил своему роботу имя «ISAC».
Это заслуженная дань уважения Айзеку Азимову, который изобрел робопсихологию. И все-таки обычный научно-фантастический сюжет переворачивает все с ног на голову, и уже людям требуются психологи с ИИ.
Одним из первых эту идею использовал Роберт Силверберг в рассказе «Потихоньку деградируя» («Going Down Smooth») 1968 года. Но лучшее выражение она получила, на мой взгляд, в романе Фредерика Пола «Врата» (1977), в самом тонком произведении, когда-либо написанном в жанре научной фантастики. В этом романе компьютер-психолог по прозвищу Зигфрид фон Психиоаналитик лечит человека, который мучается чувством вины.
Когда ИИ говорит своему пациенту-человеку, что ему нужно научиться жить со всеми его психологическими проблемами, человек восклицает с возмущением и болью в голосе: «И вы называете это жизнью?» И компьютер отвечает на это: «Да. Именно это я называю жизнью. И в самом лучшем своем гипотетическом чувстве я ей очень завидую».
Это еще один тонко подмеченный момент, касающийся зависти ИИ по отношению к тому, что имеют люди. Рассказ Азимова «Робот, который видел сны» действительно является вершиной данной темы: здесь робот завидует свободе, которая есть у человека.
Все это подводит нас к тому заключению, что ИИ и люди могут в конечном итоге и не договориться друг с другом. Это один из пунктов знаменитого манифеста против технологии «Почему мы не нужны будущему». Он был написан Билли Джоем из Sun Microsystems и появился на страницах журнала Wired в 2000 году Джой ужаснулся при мысли о том, что в конце концов наши кремниевые создания вытеснят нас, как это происходит в таких научно-фантастических фильмах, как «Терминатор» (1984) и «Матрица» (1999).[29]