к ближайшей к Земле звезде альфа Центавра со скоростью около 20 % скорости света. Крохотные корабли будут весить порядка одного грамма, что позволит им двигаться на скоростях, более близких к скорости света, чем традиционные космические корабли.
В нашем проекте, получившем название «Полет сознания к звездам» (Sentience to the Stars), мы с Тёрнером при участии компьютерщика Олафа Витковски и астрофизика Калеба Шарфа пытаемся доказать, что межзвездные миссии типа Starshot могли бы выиграть от наличия автономного ИИ-компонента на основе наночипов. Автономный искин может быть весьма полезным, поскольку связь с кораблем, находящимся возле альфы Центавра, занимала бы восемь лет – четыре года на то, чтобы сигнал дошел до Земли, и четыре года на получение ответа. Чтобы на месте принимать решения в реальном времени, цивилизациям, пускающимся в межзвездные путешествия, придется либо отправлять своих представителей в полет длительностью в несколько поколений – пугающая задача, либо оснащать сами корабли универсальным искусственным интеллектом.
Разумеется, это не означает, что универсальные искины непременно будут обладать сознанием. Как я отмечала, для этого потребуются целенаправленные разработки в дополнение к созданию обычной высокоинтеллектуальной системы. Тем не менее, если земляне решат отправить в космос вместо себя универсальный искусственный интеллект, их может заинтересовать перспектива наделения его сознанием. Возможно, во Вселенной разумной жизни помимо нас не обнаружится, и разочарованным людям очень захочется населить ее искинами – «детьми нашего разума». В настоящее время надежды на то, что жизнь имеется всюду, достаточно велики в связи с открытием многочисленных землеподобных экзопланет, условия на которых, судя по всему, вполне созрели для зарождения жизни. Но что, если все эти планеты необитаемы, хотя и имеют, кажется, все условия для поддержания жизни? Не исключено, что нам, землянам, почему-то повезло. А что, если звездный час внеземной разумной жизни миновал давно, задолго до нас, и она не уцелела? Кто знает, не стали ли все эти инопланетяне жертвой собственного технического прогресса и не грозит ли нам, людям, то же самое?
И Тёрнер, и другие ученые, в том числе физик Пол Дэвис, не исключают, что Земля может оказаться единственным островком жизни во всей наблюдаемой Вселенной[38]. Многие астробиологи с этим не согласны. Они указывают, что астрономы уже обнаружили тысячи экзопланет, которые кажутся пригодными для обитания. Похоже, этот спор разрешится еще нескоро. Но если когда-нибудь мы все же убедимся, что одни во Вселенной, то почему бы нам не создать искусственных детей разума и не колонизировать с их помощью пустые пространства? Может быть, эти синтетические сознания удастся наделить разнообразными осознанными переживаниями. Все это, разумеется, при условии, что ИИ может обладать сознанием, – а я, как вам известно, в этом не уверена.
А теперь посмотрим последний возможный путь к самосознающему ИИ.
Слияние человека и машины
В учебниках по нейробиологии есть описание случаев, когда люди, потерявшие способность запоминать новое, по-прежнему могли в подробностях вспоминать события, случившиеся с ними до болезни. Они пережили серьезное повреждение гиппокампа – части лимбической системы мозга, необходимой для сохранения новых воспоминаний. Эти несчастные не способны вспомнить, что произошло даже несколько минут назад[39]. Теодор Бергер в Университете Южной Калифорнии создал искусственный гиппокамп, который успешно прошел испытания на приматах, а теперь тестируется на людях[40]. Импланты Бергера могли бы вернуть нуждающимся жизненно необходимую способность запоминать пережитое.
Мозговые чипы-импланты разрабатываются и для лечения других заболеваний, таких как болезнь Альцгеймера и посттравматическое стрессовое расстройство. Аналогичным образом микрочипы можно было бы использовать и для замены частей мозга, отвечающих за определенный сознательный контент, например за поле зрения или его часть. Если в какой-то момент чипы начнут использоваться для протезирования областей мозга, отвечающих за сознание, может выясниться, что это вызывает утрату определенного типа переживаний, таких как те эпизоды, о которых писал Оливер Сакс[41]. Разработчики, конечно, начнут экспериментировать с другими субстратами и архитектурами чипа в надежде добиться желаемого, но кто знает, не упрутся ли они в стену, обнаружив, что в тех частях мозга, которые отвечают за сознательное восприятие, могут применяться только биологические средства усовершенствования. Ну а если тупика удастся избежать, это может открыть путь к целенаправленному конструированию самосознающего ИИ. (Мы поговорим об этом пути подробнее в главе 4, где я предлагаю свой «тест на пригодность чипа» – тест на искусственное сознание.)
По причинам, названным в главе 2, я сомневаюсь, что такие замены и улучшения позволят в конечном итоге создать изоморф. Тем не менее они могут оказаться невероятно полезными. Они дадут разработчикам «железа» стимул позаботиться о том, чтобы их изделия поддерживали сознание. Они также создадут рынок для тестов, позволяющих гарантировать, что устройства пригодны к использованию, – иначе никто не захочет устанавливать их в своей голове.
В отличие от технооптимизма, подход «поживем – увидим» признает, что продвинутый ИИ не обязательно должен иметь сознание. Насколько нам известно, искины могут обладать сознанием, но самосовершенствующиеся машины, вполне возможно, откажутся от сознания. Или ИИ-разработчики просто решат, что самосознающие искины – это кошмар с точки зрения связей с общественностью. Машинное сознание зависит от переменных, которые мы не в состоянии в полной мере оценить: запрос общества на синтетическое сознание, опасения, связанные с безопасностью самоощущающих машин, успех основанных на ИИ нейропротезов и даже прихоти разработчиков ИИ. Не забывайте: на данном этапе еще слишком много неизвестных.
В любом случае будущее наверняка окажется гораздо более сложным, чем рисуют наши мысленные эксперименты. Более того, если синтетическое сознание когда-либо появится, оно, возможно, приживется в системах только одного типа. Не исключено, что его не будет у андроидов – наших ближайших компаньонов, зато оно обнаружится в какой-нибудь системе, разработанной методом обратного проектирования по когнитивной архитектуре мозга. Помимо прочего, кто-нибудь, как в «Мире Дикого Запада», решит включить сознание в одни системы и не включить в другие. Тесты, которые я изложу в главе 4, должны, по моей задумке, стать скромным первым шагом к определению того, есть ли у каких-то из этих систем внутренние переживания.
Глава 4
Как поймать ИИ-зомби: тесты для выявления сознания у машин
Знаешь, раньше я очень расстраивалась, что у меня нет тела, но теперь мне это по-настоящему нравится… Я не связана временем и пространством, как тот, кто заперт внутри тела, которое неизбежно умрет.
САМАНТА В ФИЛЬМЕ «ОНА»
В приведенной цитате Саманта, самосознающая программа из фильма «Она», размышляет о своей бестелесности и бессмертии. Невольно возникает вопрос: ну разве может рассуждение такой