сделать трудно без ясной концепции личности. Более того, размышляя над аргументами за и против усовершенствований, трудно обойтись без хотя бы неявной опоры на концепцию личности. На чем в конечном итоге основывается ваше решение усовершенствовать или не усовершенствовать себя, если не на том, что это поможет расширить ваши возможности? Или вы, может быть, просто стараетесь ради благополучия своего последователя?
Мы вернемся к идентичности личности в главе 8. Там мы рассмотрим родственное представление о фундаментальной природе разума, которое гласит, что разум – это компьютерная программа. Но давайте сделаем короткую паузу. Я хотела бы немного поднять ставки. Мы видим, что каждый из нас, живущих сегодня, может оказаться одной из последних биологических ступенек эволюционной лестницы, ведущей от первых живых клеток к синтетическому разуму. Вид Homo sapiens, возможно, уже недолго будет оставаться самым разумным на Земле. В главе 7 я бы хотела поговорить об эволюции разума в космическом контексте. Разумы на Земле – прошлые, настоящие и будущие – являются, возможно, всего лишь точкой в более масштабном пространстве разумов, охватывающем все пространство-время. Сейчас, когда я это пишу, где-то в других уголках Вселенной другие цивилизации, возможно, проходят свои собственные сингулярности.
Глава 7
Вселенная сингулярностей
Унеситесь мысленно прочь от Земли. Представьте, как Земля становится всего лишь «голубой точкой» в открытом космосе, если воспользоваться словами Карла Сагана. Теперь покиньте галактику Млечный Путь. Масштаб Вселенной по-настоящему поразителен. Мы – обитатели всего лишь одной планеты в громадной расширяющейся Вселенной. Астрономы уже открыли тысячи экзопланет, планет за пределами нашей Солнечной системы, и среди них много землеподобных – где, судя по всему, имеются условия, подобные тем, что привели к развитию жизни на Земле. Поднимая глаза кверху, в ночное небо, мы, возможно, всюду видим жизнь.
Эта глава наглядно покажет, что те технологические достижения, которые мы сегодня видим на Земле, вероятно, не раз наблюдались прежде в других местах Вселенной. То есть уже сейчас величайшие умы Вселенной могут быть синтетическими, выросшими из цивилизаций, которые тоже когда-то были биологическими[75]. Переход от биологического интеллекта к синтетическому может оказаться общей закономерностью, которая подтверждается вновь и вновь по всему космосу. Если какая-то цивилизация создает требуемую ИИ-технологию и культурные условия благоприятствуют этому, то переход от биологической цивилизации к постбиологической может занять всего несколько сотен лет. Сегодня, когда вы читаете эти слова, во Вселенной могут существовать тысячи или даже миллионы других миров, уже разработавших технологию ИИ.
Размышляя о постбиологическом разуме, мы не просто рассматриваем возможность существования внеземного разума, а, может быть, размышляем также о природе самих себя и наших последователей, ибо уже поняли, что человеческий разум тоже способен стать постбиологическим. По существу, грань между «нами» и «ими» размывается, когда наш фокус перемещается с биологии на сложную задачу понимания вычислений и моделей поведения сверхразума.
Прежде чем погрузиться во все это, сделаю одно замечание о понятии «постбиологический». Представьте себе биологический разум, который превращается в сверхразум путем чисто биологических усовершенствований, таких как нанотехнологическое усиление нейронных мини-колонок. Это существо было бы постбиологическим, хотя многие назвали бы его искином. Или представьте себе компьютроний, построенный из чисто биологических материалов, такой как рейдер Сайлон в ремейке сериала «Звездный крейсер “Галактика”». Рейдер Сайлон – и искусственный, и постбиологический.
Ключевой момент здесь в том, что нет никаких причин считать человечество обладателем высшей формы интеллекта во Вселенной. Обидно об этом думать, но в галактическом масштабе нас, возможно, следует отнести к интеллектуальным легковесам, по крайней мере до тех пор, пока мы радикально не усовершенствуем свой разум. Интеллектуальный разрыв между неусовершенствованным человеком и инопланетным сверхразумом может быть сравним с разрывом между нами и золотыми рыбками.
Постбиологический космос
В области астробиологии такую точку зрения называют подходом постбиологического космоса. Согласно этому подходу представители самых интеллектуальных инопланетных цивилизаций являются сверхразумными искинами. Как это обосновывается логически? К такому выводу приводят три наблюдения, рассматриваемые в комплексе.
1. Развитие цивилизации от доиндустриального уровня до постбиологического занимает всего несколько сотен лет – мгновение ока по космическим меркам.
Многие настаивают, что стоит обществу создать технологии, позволяющие установить связь с разумной жизнью на других планетах, и у него останется лишь короткое временное окно – возможно, всего несколько сотен лет, – прежде чем произойдет смена его парадигмы с биологии на ИИ[76]. В результате вероятность того, что встреченные нами инопланетяне – если, конечно, мы их встретим – окажутся постбиологическими, возрастает. В самом деле, предположение в отношении короткого временного окна подтверждается, похоже, и культурной эволюцией человечества, по крайней мере до сих пор. Передача радиосигналов впервые состоялась на Земле всего около 120 лет назад, а исследование космоса началось лишь около 50 лет назад, но многие земляне уже погружены в цифровые технологии, пользуются смартфонами и ноутбуками. В настоящее время миллиарды долларов вкладываются в разработку продвинутого ИИ, который, как ожидается, изменит лицо общества уже в ближайшие десятилетия.
Критик может возразить, что в этой линии рассуждений используется «N = 1 аргумент». Напомню, что это тип рассуждений, который ошибочно распространяет случай, характерный для людей, на инопланетную жизнь. Но мне представляется неразумным отбрасывать аргументы, основанные на опыте человечества: человеческая цивилизация – единственная, которая нам известна, а потому стоит опереться на ее опыт. Отсюда уже недалеко до утверждения, что другие технологические цивилизации будут разрабатывать технологии для повышения своего интеллекта и получения адаптивного преимущества. А как мы видим, синтетический интеллект, скорее всего, сможет радикально превзойти любой неусовершенствованный мозг.
Дополнительное возражение против моего соображения насчет короткого временного окна заключается в том, что в сказанном мной до сего момента нет ничего, откуда следовало бы, что человек станет сверхразумным. Я говорила лишь, что будущие люди будут постбиологическими. Но постбиологические существа могут и не обладать сверхразумом. Так что даже если кого-то и устраивают рассуждения на основе случая, характерного для людей, сам этот случай в реальности не поддерживает идею о том, что представители наиболее продвинутых инопланетных цивилизаций будут сверхразумными.
Это серьезное возражение, но, на мой взгляд, следующие соображения показывают, что инопланетный разум, скорее всего, окажется сверхразумом.
2. Инопланетные цивилизации, возможно, существуют уже миллиарды лет.
Сторонники проекта поиска внеземного разума SETI (Search for Extraterrestrial Intelligence) часто говорят, что инопланетные цивилизации, если они существуют, должны быть намного старше нашей собственной. Как замечает бывший старший историк NASA Стивен Дик, «все свидетельства сходятся на выводе о том, что максимальный возраст внеземного разума должен составлять миллиарды лет, конкретнее – от 1,7 млрд до 8 млрд лет»[77]. Это не означает, что любая жизнь