определить, есть ли у существа представление о себе[43]. Эти черты когнитивного сознания сами по себе не свидетельствуют о наличии феноменологического сознания, но они обоснованно рассматриваются как повод присмотреться повнимательнее. А для того, чтобы отличить перспективные искины от зомби с признаками когнитивного сознания, потребуется отдельный тест на феноменологическое сознание.
Теперь я расскажу вам о ряде тестов на феноменологическое сознание. Как мы увидим, они дополняют друг друга и должны применяться в совершенно конкретных обстоятельствах. Первый тест называется просто «Тест на искусственное сознание» или, короче, «ACT-тест» (AI Consciousness Test). Это результат моего сотрудничества с астрофизиком Эдвином Тёрнером[44]. Как и все предлагаемые мной тесты, ACT-тест имеет свои ограничения. Прохождение ACT-теста должно считаться достаточным, но необязательным свидетельством наличия искусственного сознания. При таком подходе он может служить первым шагом к выявлению машинного сознания, доступного для объективных исследований.
ACT-тест
Большинство взрослых людей способны быстро и без труда схватывать концепции, основанные на качестве ощущаемого сознания – т. е. на том, как внутренне ощущается восприятие мира. Вспомните, например, фильм «Чумовая пятница», где мать и дочь меняются телами. Мы все способны ухватить суть этого сценария, поскольку знаем, каково это – ощущать себя самосознающим существом, и можем представить себе отделение разума от тела. В аналогичном ключе мы можем также представить себе жизнь после смерти, переселение душ или внетелесные переживания. Не обязательно верить, что эти сценарии реальны; я говорю только о том, что мы можем их вообразить, по крайней мере в общих чертах, потому что мы – существа, обладающие сознанием.
Сущности, совершенно лишенной осознанных переживаний, было бы чрезвычайно трудно осмыслить эти сценарии. Это как ожидать, что человек, лишенный слуха, сможет в полной мере оценить звучание концерта Баха[45]. Это простое наблюдение ведет к созданию теста, способного отделить искины с феноменологическим сознанием от тех, которые просто обладают элементами когнитивного сознания, такими как кратковременная память и внимание. В процессе тестирования искину представляют ряд усложняющихся ситуаций на естественном языке, чтобы посмотреть, насколько легко он сможет осмыслить и использовать концепции, основанные на внутренних переживаниях, которые мы связываем с сознанием. У создания, обладающего когнитивными способностями, но представляющего собой зомби, этих концепций не будет, по крайней мере если позаботиться о том, чтобы в его базе данных заранее не было информации о сознании (чуть позже мы еще поговорим об этом).
На самом элементарном уровне можно просто спросить машину, воспринимает ли она себя как нечто иное, чем ее физическая сущность. Можно также провести ряд экспериментов и посмотреть, станет ли искин предпочитать определенные события в будущем по сравнению с прошлым. В физике время симметрично, и искин, не обладающий сознанием, не должен иметь никаких предпочтений, по крайней мере если он эффективно изолирован. Самосознающие сущности сосредоточены на восприятии настоящего, а наше субъективное чувство скорее направлено в будущее. Мы жаждем в будущем положительных переживаний и боимся отрицательных. Если в ходе испытаний появляется хотя бы намек на предпочтение, нужно попросить искин объяснить свои ответы. (Возможно, он не обладает сознанием, но сумел каким-то образом распознать направление течения времени.) Полезно также посмотреть, стремится ли искин к альтернативным состояниям сознания, когда получает возможность модифицировать собственные параметры или каким-то образом ввести «шум» в свою систему.
На более сложном уровне можно посмотреть, как искин воспринимает определенные идеи и сценарии, такие как переселение душ, внетелесные переживания и обмен телами. На еще более продвинутом уровне наступает очередь оценки способности искина обсуждать философские темы, например трудную проблему сознания. На самом сложном уровне находится оценка способности машины самостоятельно, без наших подсказок, придумывать и использовать связанные с сознанием концепции. Возможно, ее заинтересует вопрос, обладаем ли сознанием мы, хотя и являемся биологическими существами.
Общую идею проиллюстрирует следующий пример. Предположим, мы нашли планету с высокоразвитой формой жизни на основе кремния (назовем эти существа дзетами). Наблюдающие их ученые начинают задаваться вопросом, обладают ли дзеты сознанием. Что могло бы стать убедительным доказательством наличия у них сознания? Если дзеты интересуются, существует ли жизнь после смерти, или размышляют, есть ли в них что-то большее, чем тело, то было бы разумно считать, что они обладают сознанием. Некоторые модели невербального культурного поведения тоже могут указывать на самосознание дзет: например, оплакивание мертвых, религиозные ритуалы или даже смена окраски в различных ситуациях в зависимости от эмоциональной нагрузки наподобие хроматофор на Земле. Такое поведение указывало бы на то, что местные обитатели внутри ощущают себя дзетами.
Другой пример – смерть разума придуманного компьютера HAL 9000 в фильме «2001: Космическая одиссея». HAL ни внешне, ни по разговору не похож на человека (HAL разговаривает человеческим голосом, но совершенно безынтонационно). Тем не менее содержание того, что говорит HAL, когда один из астронавтов собирается отключить его, – умоляет не «убивать» его, – создает полное впечатление, что HAL – самосознающее создание, субъективно переживающее все, что с ним происходит.
Могут ли такие модели поведения помочь нам на Земле в распознавании искинов, обладающих сознанием? Здесь возникает одно препятствие. В программу даже сегодняшних роботов можно заложить убедительные высказывания о сознании, а высокоинтеллектуальная машина сумеет, наверное, использовать в своих целях информацию из области нейробиологии, доказывающую наличие сознания у биологических существ. Может быть, искин решит, что его задача будет выполнена наилучшим образом, если люди причислят его к мыслящим созданиям и удостоят особого морального отношения. Если перед продвинутыми не сознающими себя искинами будет стоять цель обмануть нас и заставить поверить, что они обладают сознанием, то знания о человеческом сознании и нейробиологии поможет им в этом.
Однако я считаю, что мы в состоянии обойти эту проблему. Один из предлагаемых методов обеспечения безопасности ИИ предусматривает «изоляцию» искина – создание условий, при которых он не будет получать информацию об окружающем мире или действовать вне предписанных рамок. Можно закрыть искину доступ в интернет и не позволять ему получать слишком много знаний об окружающем мире, особенно информации о сознании и нейробиологии. ACT-тест подходит для использования на этапе исследований и разработок, где искин в любом случае необходимо испытывать в безопасной искусственной среде.
Если какая-нибудь машина пройдет ACT-тест, можно сделать следующий шаг и измерить другие параметры системы, чтобы понять, с чем связано наличие сознания: с повышенной эмпатией, непредсказуемостью, целеустремленностью, более развитым интеллектом и т. д. Другие, лишенные сознания варианты той же системы послужат базой для сравнения.
Некоторые сомневаются, что сверхразумную систему можно будет эффективно изолировать от внешнего мира, поскольку она, мол, неизбежно отыщет лазейку. Однако мы с Тёрнером не ожидаем появления сверхразума в ближайшие десятилетия и просто предлагаем метод