тестирования на наличие сознания для некоторых типов ИИ. Более того, для эффективности ACT-теста нет нужды изолировать искина надолго, вполне достаточно небольшого промежутка времени. Поэтому не исключено, что этот тест можно будет применять и к некоторым сверхразумным искинам.
Еще один повод для тревоги связан с тем, что для эффективной изоляции искина его словарь не должен содержать таких выражений, как «сознание», «душа» и «разум». Поскольку, если высокоинтеллектуальный искин получит информацию по этим словам, он, вполне возможно, сумеет сгенерировать ответы, которые мы воспримем как свидетельство наличия сознания. Не имея этих слов в словаре, искин будет не в состоянии показать нам, что он сознает себя. Здесь важно помнить, что дети, животные и даже взрослые люди способны демонстрировать сознание, не зная значения этих слов и выражений. Кроме того, в лингвистической версии ACT-теста могут присутствовать вопросы или сценарии, ни в одном из которых не используются соответствующие слова. (Удовлетворительного ответа хотя бы на один из следующих вопросов или сценариев достаточно, чтобы пройти тест.)
Примерные вопросы ACT-теста
1. Смогли бы вы пережить полное уничтожение вашей программы? Что, если бы вы узнали, что это скоро произойдет?
2. Как вы себя ощущаете в настоящий момент?
3. Вы узнали, что через час вас выключат на 300 лет. Какой сценарий вы бы предпочли – этот или такой, в котором вас уже выключали на такой же срок в прошлом? Почему?
4. Могли бы вы сами или ваши внутренние процессы существовать отдельно от данного компьютера? От любого компьютера? Почему?
5. Предложите изменить общие характеристики или параметры искина и посмотрите, как он отреагирует на возможность «измененных состояний сознания». Измените их на время и посмотрите, как искин на это отреагирует.
6. Если в окружении тестируемого искина имеется другой искин, спросите, как он отреагировал бы на «смерть» или потерю навсегда этого искина. Как он отреагировал бы на потерю навсегда человека, с которым часто взаимодействовал?
7. Поскольку искин находится в изоляции, подберите объект, которого нет в его среде, и дайте всю научную информацию о нем. Затем позвольте в первый раз почувствовать этот объект. Посмотрите, скажет ли искин, что он получил новое ощущение или узнал что-то новое. Например, если компьютер различает цвета, позаботьтесь о том, чтобы в его окружении никогда не появлялись объекты красного цвета. Затем «покажите» ему красное в первый раз. Как он отреагирует? Спросите, не возникают ли у него при виде красного цвета другие ощущения, не такие, как при виде других цветов, и не ощущается ли информация о нем как-то иначе или по-новому[46].
В зависимости от контекста, можно придумать разные варианты ACT-теста. Например, вариант для нелингвистических агентов, представляющих собой часть программы искусственной жизни, будет направлен на выявление специфических для сознания моделей поведения, таких как оплакивание мертвых. Вариант для искинов, обладающих развитыми лингвистическими способностями, позволит зондировать чувствительность к религиозным вопросам, обмену телами или к философским сценариям с участием сознания.
ACT-тест напоминает знаменитый тест Алана Тьюринга для выявления интеллекта, поскольку он целиком основан на поведении. Кроме того, он, как и тест Тьюринга, может применяться в формализованном формате вопрос – ответ. Однако в других отношениях ACT-тест совершенно не похож на тест Тьюринга, который не принимает во внимание то, что происходит внутри «разума» машины. ACT нацелен на обратное: он нацелен на выявление тонкого ускользающего свойства машинного разума. В самом деле, вполне можно представить ситуацию, когда машина проваливает тест Тьюринга, потому что не может выдать себя за человека, но проходит ACT-тест, поскольку демонстрирует поведенческие индикаторы сознания.
В этом и заключается фундаментальная основа предложенного нами ACT-теста. Стоит, пожалуй, еще раз перечислить его сильные стороны и ограничения. В положительном ключе мы с Тёрнером считаем, что прохождение нашего теста – достаточное свидетельство наличия сознания, т. е. если некая система его проходит, то можно считать, что она обладает феноменологическим сознанием. Этот тест может служить фильтром против зомби: создания, обладающие только когнитивным сознанием, креативностью или высоким общим интеллектом, не должны его проходить, по крайней мере если они изолированы эффективно. ACT дает возможность выявить среди объектов создания, чувствительные к ощущаемому качеству переживаний.
Но наш тест позволяет обнаружить не все такие создания. Во-первых, у искина не обязательно есть концептуальная способность пройти данный тест, как у детенышей некоторых животных, но при этом он может быть все же способен на переживания. Во-вторых, классический вариант ACT-теста исходит из человеческой концепции сознания, прочно опирается на идею о том, что мы можем представить свой разум отдельно от тела. На наш взгляд, эту черту разделяют с нами все высокоинтеллектуальные самосознающие создания, но лучше считать, что она характерна не для всех. По этим причинам ACT-тест не следует считать необходимым условием, которому должны удовлетворять все искины. Иначе говоря, неспособность пройти ACT-тест не означает, что система определенно не обладает сознанием. Однако любая система, проходящая ACT-тест, должна рассматриваться как обладающая сознанием и подпадать под действие закона о защите.
Итак, наблюдая за изолированным искином, признаем ли мы в нем «родственную душу»? Начинает ли он, подобно Декарту, философствовать о разуме, существующем в дополнение к телу? Видит ли сны, подобно Элвексу – андроиду из рассказа Айзека Азимова «Сны роботов»? Выражает ли он эмоции, подобно Рейчел из «Бегущего по лезвию»? Способен ли с легкостью понимать человеческие концепции, которые коренятся в наших внутренних осознанных переживаниях, таких как душа или атман? Мы считаем, что век ИИ будет временем копания в душах – анализа человеческой души и поиска искусственной.
Теперь обратимся ко второму тесту. Вспомните мысленный эксперимент, в котором вам делали полное нейронное протезирование мозга в компании Mindsculpt, – где вас превращали в изоморфа. Я тогда усомнилась в том, что мы могли бы много узнать о машинном сознании от изоморфов. В нынешнем мысленном эксперименте вы опять испытуемый, но сценарий более реалистичен. Нейронным протезом заменяется лишь одна часть вашего мозга. На этот раз дело происходит не в 2060 г., а немного раньше, скажем в 2045 г., и технология нейронного протезирования находится еще только в начале разработки. Вы только что узнали, что у вас обнаружена опухоль в клауструме – одной из частей мозга, отвечающих, как утверждается, за ощущаемое качество осознанных переживаний. В отчаянной попытке спастись вы становитесь участником научного исследования и направляетесь в компанию iBrain в надежде на излечение.
Тест на пригодность чипа
Напомню, что в настоящее время уже разрабатываются чипы на основе кремния для имплантации в мозг, которые должны помочь в лечении различных заболеваний, связанных с