Я упомянул религию как один из признаков возникновения сознания; по крайней мере, так произошло в истории нашего вида. Но как насчет того, чтобы использовать любимый термин компьютерного гуру Рея Курцвейля «духовные машины»? Если компьютер на самом деле обретет сознание, будет ли он бодрствовать ночью, гадая, а не обман ли все это?
Поиск создателей — это, несомненно, то, чем компьютеры не устают заниматься в научной фантастике. В частности, привязанность к этой идее заявляет о себе в «Звездном пути», включая тот момент, когда мистер Дейта (Mr. Data) так замечательно воссоединяется с создавшим его человеком, которого он считал давно умершим.
Помните фильм «День, когда Земля остановилась», с которого я начал? Любопытный факт: этот фильм снимал Роберт Уайз. Через двадцать восемь лет он станет режиссером киноленты «Звездный путь: Кинолента» («Star Trek: The Motion Picture»). В первом фильме биологические существа решили, что биологические эмоции и страсть слишком опасны, и поэтому безвозвратно доверили вопросы политики и безопасности роботам, которые стали эффективно управлять человеческим обществам. Однако к моменту съемок «Звездного пути» Роберт Уайз совершил поворот на сто восемьдесят градусов и стал думать об ИИ совсем иначе.
(Между прочим, тем, кому этот фильм показался плохим и нудным — после выхода фильма многие называли его «Звездный путь: Изолента», — я бы предложил взять в прокате новое «режиссерское издание» на DVD. Этот фильм — один из самых амбициозных и интересных кинофильмов об ИИ в истории кинематографа. И он смотрится куда лучше недавнего фильма Стивена Спилберга «AI», а в новой версии он вообще выглядит блестяще.)
В фильме «Звездный путь: Кинолента» ИИ зовут Ви-джер (V'ger), и он летит к Земле, чтобы отыскать своего создателя. Разумеется, его создали мы. Не в первый раз фантастическая кинокартина строится по такому сценарию, вот почему у фильма есть второе название — «Там, где прошел кочевник». Этот фильм о том же самом, о чем идет речь в фильме «Космическая одиссея» (если вы купились на мою интерпретацию фильма Кубрика): об ИИ, который отправляется на поиски сотворивших его существ.
Так или иначе, Ви-джер хочет прикоснуться к Богу, то есть физически соединиться со своим создателем. Здесь выявляется интересная концепция: в своей основе это история о компьютере, который хочет добиться одной-единственной вещи, зная, что это недостойно компьютера как такового, — он хочет загробной жизни, слияния со своим Богом.
В дополнение к этому адмирал Кирк подытоживает в фильме: «То, что необходимо развить Ви-джеру, — это способность человека выпрыгивать за рамки логики». Это не просто треп. Скорее, фильм предваряет размышления оксфордского математика Роджера Пенроуза, опубликованные в 1989 году, через десять лет после выхода фильма, в его книге об ИИ «Новый разум императора». Эта работа была написана не в художественной, а в традиционной научной форме. В книге Пенроуз доказывает, что человеческое сознание коренным образом отличается от механического, и из этого следует, что цифровой компьютер никогда не сможет его продублировать.
В фильме «Звездный путь: Кинолента» Ви-джеру действительно удается физически объединиться с человеком по имени Уилл Декер. Это позволяет им обоим перейти на более высокий уровень бытия. Как сказал мистер Спок: «Возможно, только что мы стали свидетелями следующего этапа нашей эволюции».
И это подводит нас к «Матрице». В этом фильме столько всего намешано, что даже такой персонаж, как Морфеус, не совсем понимает, что происходит.
Подумайте вот о чем: если бы искусственные интеллекты, создавшие основу Матрицы, действительно хотели бы таким образом получить биологический источник энергии, они бы не выращивали «урожай» (если использовать термин агента Смита из фильма) в виде людей. Как-никак, для того чтобы держать людей в повиновении, ИИ приходится создавать обширную виртуальную реальность, то есть реальный мир для нас. Больше того — им необходимо постоянно быть на страже, так что агенты в фильме играют роль гибсоновской полиции «Тьюринг», только с точностью до наоборот: теперь агенты выслеживают людей, возвращающих себе истинное понимание реальности и способных подняться на восстание.
Нет, если вы хотите получить всего лишь биологические батарейки, вам лучше остановить свой выбор на крупном рогатом скоте: наверное, коровы никогда не заметят каких-то несоответствий в фальшивых лугах, которые вы могли бы создать для них, а если и заметят, то никогда не будут замышлять свергнуть своего хозяина — ИИ.
То, в чем явно нуждаются искусственные интеллекты в «Матрице», — так это не в энергии человеческих тел, а, скорее, в силе человеческого разума, которую представляет собой настоящее сознание. Согласно отдельным теориям квантовой механики, лишь наблюдения, проведенные квалифицированными наблюдателями, придают реальности форму — без этого не было бы ничего, кроме вложенных друг в друга возможностей. Матрица нуждается в том же самом, чего, по словам адмирала Кирка, недостает Виджеру. Чтобы выжить, чтобы сохранить целостность, чтобы существовать, Матрице необходимо человеческое качество- наше подлинное сознание, которое, как Пенроуз отметил (и я использую это слово намеренно), никакая машина, основанная на современных компьютерах, не сможет воспроизвести никогда в жизни, независимо от степени сложности ее организации.
Как говорит Морфеус, обращаясь к Нео, выбери свою отмычку — красную или синюю пилюлю. Разумеется, существует два варианта будущего для ИИ. И если Билли Джой ошибается, а Ганс Моравек, проповедник ИИ из университета Карнеги Меллон, окажется прав насчет того, что ИИ — это наша судьба, а вовсе не погибель, то идея слияния человеческого сознания с быстродействием, силой и бессмертностью машин действительно станет следующим и заключительным этапом нашей эволюции.
Вот что изучают многие фантасты в последнее время. Я сам занялся этим в своем романе «Последний эксперимент», который в 1995 году получил премию «Небьюла». В этой книге ученый загружает три копии собственного сознания в компьютер и затем оценивает влияние психологических изменений.
В одном случае он моделирует вариант вечной жизни: что было бы, если бы удалось без остатка преодолеть страх перед смертью и ощущение уходящего времени. В другом случае он пытается имитировать свою душу (если таковая у него имелась) после смерти, отделенную от тела. Для этого он уничтожает все ее связи с физической формой, то есть со своим телом. И, наконец, в третьем случае остается просто немодифицированный контроль, однако даже он изменяется под воздействием простого осознания того, что это фактически копия кого-то другого.
В наше время лучше всего об ИИ пишет австралийский фантаст Грег Иган. Бытует даже такая шутка, что Грег Иган — сам искусственный интеллект, потому что его почти ни разу не фотографировали и не видели на публике.
Впервые я заметил его десяток лет назад, когда в обзоре для издания «Globe and Mail» выделил его короткий рассказ «Учась быть мной» («Learning to Be Me») как лучшую работу, опубликованную в 1990 году в антологии Гарднера Дозуа «Лучшие произведения года в жанре научной фантастики». Это удивительно проницательная и ужасающая история о драгоценных камнях, которые занимают место человеческого мозга, что позволяет их владельцам жить вечно. Иган продолжает проделывать огромную работу по изучению ИИ, однако его шедевром в этой области остается роман «Город перестановок» («Permutation City»), который он написал в 1995 году.
С какого-то момента мы с Грегом стали публиковаться в одном и том же издательстве HarperPrism. Одним из действительно блестящих шагов, которые предпринял Harper помимо публикации моих и Грега произведений, стало приглашение к сотрудничеству лауреата премии «Хьюго» Терри Биссона, одного из лучших фантастов, специализирующихся на коротких рассказах. Его наняли для описания краткого содержания книги на задней обложке. Поскольку Биссон делает это с потрясающим своеобразием, я просто процитирую то, что написал он о «Городе перестановок»: «Хорошая новость заключается в том, что вы только что проснулись в Вечной жизни. Вы будете жить вечно. Бессмертие — это реальность. Чудо медицины? Не совсем так. Плохая новость — это то, что вы стали обрывком электронного кода. Окружающий вас мир, вы сам, который видит этот мир, были переведены в цифровую форму, отсканированы и загружены в программу виртуальной реальности. Вы стали Копией, которая знает, что она копия. Хорошая новость — отсюда есть выход. По закону, у каждой Копии есть возможность уничтожить себя и снова проснуться в нормальной жизни, став существом из плоти и крови. Выход содержится в меню утилитов. Вы открываете его…
Плохая новость — он не работает. Кто-то заблокировал опцию выхода. И вам известно, кто это сделал. Это сделали вы. Другой вы. Вы настоящий. Тот, кто хочет держать вас здесь вечно».