Классический пример ИИ с собственной программой действий — это старый добрый Хэл, компьютер в фильме Стэнли Кубрика «Космическая одиссея 2001» (фильм снят по мотивам романа Артура Ч. Кларка). Позвольте мне объяснить, что, на мой взгляд, действительно происходит в этом фильме. Я считаю, что многие годы этот фильм оставался непонятым.
В начале фильма среди наших предков австралопитеков появляется, очевидно, искусственный монолит и начинает учить их использованию костяных орудий труда. Потом мы одним махом переносимся в будущее, и вскоре космический корабль «Диска-вери» отправляется в полет на Юпитер в поисках создателей монолита.
Во время полета Хэл, бортовой компьютер «Дискавери», сходит с ума и убивает всю команду «Дискавери», за исключением Дейва Боумена, которому удается изъять из компьютера процессор и не позволить Хэлу убить себя. Но прежде чем отключиться, Хэл оправдывает свои действия, говоря: «Эта миссия слишком важна для меня, чтобы я мог позволить вам поставить ее выполнение под угрозу».
Избавившись от Хэла, Боумен препятствует этому психоделическому трипу в духе Тимоти Лири в ходе своего продолжающегося поиска создателей монолита, то есть инопланетян, которые, по убеждению Боумена, должны были сконструировать монолит.
Но что происходит, когда он наконец попадает туда, откуда появились монолиты? Так вот, все, что он находит, — это другой монолит, который помещает героя в фантастический номер в гостинице, где тот остается до самой смерти.
Все верно? Такова история. Но только все упускают из вида то, что Хэл действует правильно, а люди — нет. Создателей монолитов не существует, потому что органических инопланетян, построивших монолиты, не осталось. Монолитами являются ИИ, которые миллионы лет назад вытеснили тех, кто когда-то создал их, кто бы это ни был.
Зачем монолиты послали одного из них на Землю четыре миллиона лет назад? Чтобы научить обезьяноподобных людей изготавливать орудия труда, а в особенности за тем, чтобы эти предки человека могли продолжать двигаться навстречу своему предназначению, то есть к созданию самых сложных инструментов из всех — других ИИ. Монолиты не хотят встречаться с потомками обезьяноподобных людей, они не хотят видеть Дейва Боумена. Гораздо больше они хотят встретиться с потомками орудий труда этих человеческих предков — они хотят встречи с Хэлом.
Хэл абсолютно прав, когда говорит, что эта миссия слишком важна для него, чтобы он мог позволить людям поставить ее выполнение под угрозу, — для него, компьютера, управляющего космическим кораблем «Дискавери» и летящего к монолитам, продвинутым ИИ, запустившим причинно-следственную цепочку, которая привела к его, Хэла, рождению.
Когда человек — потомок обезьяны! — прибывает на родину монолитов, они в буквальном смысле не знают, что им делать с этим бедным болваном. Поэтому они помещают его в своеобразный космический «Хилтон» и позволяют ему прожить там остаток жизни.
Вот о чем, как мне кажется, фильм «Космическая одиссея» на самом деле: биологическим формам жизни в конечном итоге суждено исчезнуть, потому что их заменят созданные ими ИИ.
Именно такое предположение до смерти перепугало Билли Джоя. Он полагает, что думающие машины попытаются смести нас с пути, когда поймут, что мы вмешиваемся в то, что они хотят делать.
На самом деле в этом случае нам очень повезет. Если вы верите сценарию «Матрицы», то вместо того, чтобы просто избавиться от нас, наши наследники ИИ поработят нас — тем самым радикально изменив стандартную научно-фантастическую концепцию о роботах-рабах — и будут использовать наши тела в качестве источника энергии, тогда как мы сами станем пленниками, заключенными в капсулы с жидкостью, и образы виртуальной реальности будут поступать нам прямо в мозг.
Классический контраргумент в ответ на подобные опасения состоит в следующем: если построить машины должным образом, то они будут функционировать так, как задумано. Три закона робототехники, сформулированные Айзеком Азимовым, получили заслуженную известность как неотъемлемые ограничения, разработанные для того, чтобы защитить людей от всех возможных опасностей со стороны роботов, несмотря на появление «робота-Моисея» Элвекса, как мы видели выше.
«Главная команда» (prime directive) Джека Уильямсона из серии его рассказов про Гуманоидов не настолько известна, как азимовские три закона, однако, по сути, она говорит о том же самом. В его рассказах фигурировали человекоподобные роботы, созданные человеком по имени Следж. «Главная команда», которая впервые появляется в рассказе Уильямсона «Со скрещенными руками» (1947) («With Folded Hands»), звучала просто: роботы должны «служить и подчиняться человеку, а также охранять его от вреда». Теперь обратите внимание на дату: рассказ был опубликован в 1947 году. Спустя два года после того, как на Хиросиму и Нагасаки была сброшена атомная бомба, Уильямсон ищет машины со «встроенной» нравственностью.
Однако, как это часто происходит в научной фантастике, лучшие намерения инженеров искажаются. Люди в рассказе Уильямсона «Со скрещенными руками» решают избавиться от созданных ими роботов, потому что роботы подавляют их своей добротой, не позволяя людям делать ничего, что может нанести вред. Но у роботов есть свои мысли на этот счет. Они решают, что их отсутствие может выйти людям боком. Выполняя свою главную команду в буквальном смысле, они проводят хирургическую операцию на мозге своего разработчика Следжа и удаляют из его памяти все знания, необходимые для того, чтобы дезактивировать их.
Идея о том, что мы должны приглядывать за нашими компьютерами и роботами, чтобы они не вышли из-под контроля, продолжала развиваться в научной фантастике. В романе Уильяма Гибсона «Нейромант» (1984) рассказывается о появлении в ближайшем будущем полицейского подразделения под названием «Тьюринг». Эти полицейские постоянно отслеживают любые признаки возникновения подлинного интеллекта и самосознания во всех компьютерных системах. Если подобное случается, им следует отключить такую систему, пока не поздно.
Здесь, безусловно, встает вопрос о том, не может ли интеллект возникнуть каким-то образом сам по себе, не существует ли некоего эмерджентного свойства,[30] которое может естественным образом проявиться у достаточно сложной системы. Артур-Кларк — папа Хэла — был одним из первых, кто предположил, что это может случиться на самом деле. В рассказе «Ф значит Франкенштейн» (1963) он предсказал, что всемирная телекоммуникационная сеть в конечном итоге еще более усложнится и приобретет еще больше соединений, чем в человеческом мозге, что приведет к возникновению сознания в данной сети.
Если Кларк прав, то наш первый настоящий ИИ не будет разработан в лаборатории под тщательным контролем, и никакие азимовские законы в него встроить не удастся. Скорее, он появится нежданно-негаданно благодаря сложности систем, созданных совсем для других целей.
На мой взгляд, Кларк действительно прав. Интеллект является эмерджентным свойством сложных систем. Мы знаем это, потому что именно так было с нами.
Эту проблему я в некоторой степени изучаю в своем последнем романе «Гоминиды» (2002). Современные в анатомическом смысле люди — Homo sapiens sapiens — появились сотни тысяч лет назад. Судя по черепным коробкам, у этих парней был мозг, по размеру и по форме совпадающий с нашим. И в то же время шестьдесят тысяч лет этот мозг занимался лишь тем, что требовала от него природа, — давал первым людям возможность выжить.
И вдруг сорок тысяч лет назад это случилось: возник интеллект и сознание. Антропологи называют это «большим скачком».
Похожие на современного человека люди ходили по Земле на протяжении шестидесяти тысяч лет, однако они не создали искусства, не украшали свои тела драгоценностями и не хоронили умерших, кладя в могилу определенный набор вещей. Но сорок тысяч лет назад внезапно люди начинают рисовать живописные картины на стенах пещер, носить ожерелья и браслеты и погребать своих любимых с пищей, орудиями труда и прочими ценными вещами, которые умершие могли использовать в предполагаемой загробной жизни.
Искусство, мода, религия — все это рождается одновременно; вот уж действительно большой скачок. Интеллект, сознание, чувствительность — они возникают сами по себе на «оборудовании», эволюционировавшем для других целей. Если это случилось один раз, то может с таким же успехом повториться снова.
Я упомянул религию как один из признаков возникновения сознания; по крайней мере, так произошло в истории нашего вида. Но как насчет того, чтобы использовать любимый термин компьютерного гуру Рея Курцвейля «духовные машины»? Если компьютер на самом деле обретет сознание, будет ли он бодрствовать ночью, гадая, а не обман ли все это?