— Я не говорю, что просто брожу в темноте. Будь это так, я бы сейчас билась над совершенно иными проблемами. Но я просто не вижу, какой прок мне от этого процессора.
— В результате какого процесса возник единственный пример сознания, который нам известен?
— Эволюции.
— Именно. Но я не хочу ждать три миллиарда лет. Поэтому нужен гораздо более направленный процесс селекции, нужно напрямую обращаться к факторам вариации.
Юлия немного поразмыслила над этим.
— Вы хотите, чтобы я попыталась вывести настоящий ИИ путём эволюции? Сознающий себя искусственный интеллект, равный человеческому?
— Да.
Даниэль увидел, как она поджала губы, как она старается подобрать слова, прежде чем заговорить.
— При всём уважении, мне кажется, вы недостаточно хорошо это продумали, — сказала она.
— Отнюдь, — заверил её Даниэль. — Я планировал это в течение двадцати лет.
— Вся эволюция построена на неудачных попытках и смерти. Вы хоть представляете, сколько наделённых чувствами существ жили и умирали, чтобы проложить дорогу для Homo Sapiens? Сколько при этом было страданий?
— Частью вашей работы будет минимизировать страдания.
— Минимизировать их? — воскликнула Юлия. Казалось, она искренне шокирована, словно это предложение было ещё хуже, чем наивное предположение о том, что работа не вызовет этических затруднений. — Да какое у вас вообще есть право обрекать их на страдания?
— Вы рады, что существуете, не так ли? — вопросом на вопрос ответил Даниэль. — Несмотря на все страдания ваших предков.
— Да, я рада, что существую, — согласилась она. — Но в случае людей страдания не являются намеренно кем-то вызванными. Кроме того, у нас не было альтернативного способа появиться на свет. Если бы справедливый Создатель действительно существовал, не сомневаюсь — он бы последовал Книге Бытия буквально; чёрт возьми, он бы никогда не воспользовался эволюцией!
— Справедливый и всемогущий, — заметил Даниэль. — Как ни прискорбно, вторая характеристика встречается ещё реже первой.
— Не думаю, что для создания в своём воображении требуется всемогущество. Лишь немного терпения и самопознание.
— Это не будет чем-то вроде естественного отбора, — упорствовал Даниэль. — Не будет таким слепым, таким жестоким и расточительным. Вы будете вольны вмешиваться столько, сколько хотите, сможете принимать смягчающие меры когда сочтёте нужным.
— Смягчающие меры? — переспросила Юлия, прямо встретив его взгляд — и Даниэль увидел, что выражение недоверия на её лице уступает место чему-то более зловещему. Гостья поднялась и бросила взгляд на браслет-мобильник. — Здесь у меня не ловит. Вы не откажете в любезности вызвать для меня такси?
— Пожалуйста, выслушайте меня, — попросил Даниэль. — Уделите мне ещё десять минут, и потом вертолёт доставит вас в аэропорт.
— Я бы предпочла добраться самостоятельно, — сказала Юлия, бросив на Даниэля красноречивый взгляд; было очевидно, что этот вопрос не подлежит обсуждению.
Даниэль вызвал для неё такси, и они вместе направились к лифту.
— Знаю, это вызывает у вас сомнения с моральной точки зрения, и я уважаю ваше мнение, — сказал Даниэль. — Мне бы и в голову не пришло нанять кого-то, кто счёл бы эти проблемы незначительными. Но если я откажусь от этого проекта, им займётся кое-кто другой. Кое-кто с куда худшими намерениями.
— О, правда? — удивилась она с подчёркнутым сарказмом в голосе. — Так объясните же мне, как само существование вашего проекта заставит этого гипотетического Бин Ладена от ИИ остановить свой?
Даниэль был разочарован; он рассчитывал — она по крайней мере поймёт, что стоит на кону.
— Идёт гонка, в которой решается — быть божественности или рабству, — сказал он. — И того, кто придёт первым, будет невозможно остановить. Я ничьим рабом быть не собираюсь.
Юлия вошла в кабину; Даниэль последовал за ней.
— Знаете, что говорят о современной версии пари Паскаля? — спросила она. — Нужно подлизаться как можно к большему числу сверхлюдей — на случай, если один из них превратится в Бога. Возможно, вашим девизом стоит сделать «Обращайтесь со всеми интернет-ботами по-доброму: каждый из них может оказаться дядюшкой божества».
— Мы проявим максимум милосердия, — сказал Даниэль. — Не забудьте, мы можем определить природу этих созданий. Они будут счастливы, что живут, они могут быть благодарны своему Создателю. Эти черты мы можем вывести селекцией.
— Значит, вы хотите создать сверхлюдей, Эbermenschen, которые будут вилять хвостиком, когда вы станете чесать у них за ушком? Не боитесь вдруг обнаружить, что это потребует неприемлемого компромисса с совестью?
Лифт спустился на первый этаж, в холл.
— Подумайте как следует, не торопитесь с решением, — сказал Даниэль. — Можете звонить мне в любое время.
Сегодняшним вечером рейса на Торонто не было. Ей предстояло застрять в отеле, выложить за номер деньги, которые она почти не могла себе позволить, размышляя о том, какую зарплату она могла бы потребовать теперь, когда она продемонстрировала свою принципиальность и недоступность. Хорошенько всё обдумав, она сможет обратить проявленную сегодня морализаторскую упёртость в повод продать себя подороже. У неё не возникнет проблем с тем, чтобы засунуть свою гордость подальше.
Юлия протянула ему руку, которую он пожал.
— Спасибо за ужин, — сказала она.
Такси уже стояло в ожидании. Даниэль проводил гостью через весь холл.
— Если вам хоть раз в жизни доведётся увидеть ИИ, — сказал он, — это единственный способ.
Юлия повернулась к нему, чтобы прямо посмотреть ему в глаза:
— Может, вы и правы. Посмотрим. Но лучше потратить тысячу лет и сделать всё как надо, чем преуспеть вашими методами за десятилетие.
Видя, как такси скрывается в тумане, Даниэль заставил себя принять реальность: она своё решение не изменит. Юлия Дегани была главной кандидатурой, идеальным сотрудником. Было глупо делать вид, что эта неудача ничего не значит.
Тем не менее, незаменимых нет. Сколь бы ему ни хотелось одержать победу именно с этим игроком, в списке было ещё много-много имён.
2
Даниэль ощутил покалывание на запястье: пришло новое сообщение. Он бросил быстрый взгляд на часы; заслоняя их, в воздухе спроецировалось одно лишь слово: «ПРОГРЕСС!».
Совещание совета директоров подходило к концу; Даниэль постарался выбросить сообщение из головы, сконцентрировавшись на мероприятии. Компания «WiddulHands.com», социальная сеть для малышей от нуля до трёх лет, только что принесла ему первый миллиард, при этом даже не успев толком развиться. Даниэль основал эту компанию пятнадцать лет назад. С тех пор он запустил множество других проектов, но эту компанию не имел намерений отпускать в свободное плавание.
(adsbygoogle = window.adsbygoogle || []).push({});