он потерял самоконтроль и стал хихикать, как ребенок в церкви»[648]. Не будучи способным на истинно человеческий выбор ценностей, он регрессировал, позволив Чарли ощутить собственное превосходство над технологической версией Буриданова осла.
Этой победы хватает ненадолго. Адаму для работы нужно электричество, и он должен выключаться, когда собственник нажимает кнопку на его шее сзади. Похоже, что Адам все больше недоволен тем, что его выключают, и в ключевой момент этой истории он хватает Чарли за руку «чудовищной» хваткой и ломает ему запястье, чтобы оставаться включенным. Профессор английского языка Эрик Грэй в своей остроумной рецензии на роман отмечает: «Не признание в любви, а рукопашная со звериным оттенком, – вот что заставляет Чарли признать, что он имеет дело с родственной и, возможно, даже превосходящей его формой жизни»[649]. Вопрос о личности робота – это в конечном счете вопрос власти, а не признания некоего достаточного количества «человечности» в ИИ. Роман «Машины как я» позволяет нам прочувствовать, как эта власть может быть завоевана или потеряна.
После пространных извинений за сломанное запястье Адам обещает стать полезным Чарли, зарабатывая тысячи фунтов на финансовых сделках. Робот поглощает также горы информации по философии и искусству, выдавая комментарии, неотличимые от таковых специалистов. Свою любовь к Миранде Адам высказывает в тысячах хайку, придумывая даже литературную теорию, которая оправдывает его преданность этой форме:
Едва ли не все прочитанные мной образцы мировой литературы рассматривают всевозможные человеческие неудачи: в понимании, здравомыслии, мудрости, должных симпатиях… Но когда завершится союз мужчин и женщин с машинами, такая литература станет излишней благодаря тому, что мы станем слишком хорошо понимать друг друга… Наши повествования больше не станут затрагивать тему бесконечного непонимания. Наши литературы лишатся своей нездоровой пищи. Востребованной формой останется только лапидарное хайку – выверенное, ясное прославление вещей в их подлинном виде[650].
Такова литературная теория сингулярности, спешащая предвосхитить устранение любого зазора между людьми и машинами, мышлением и речью, внутренним миром и внешне наблюдаемым поведением[651]. Можно было бы представить, что ту же теорию мог бы изложить и ИИ в романе Ричарда Пауэрса «Галатея 2.2», программа, которая должна была сдать магистерский экзамен по английской литературе[652]. Будущее, воображаемое Адамом, как и чужой, трисолярианский мир в «Задаче трех тел» Лю Цысиня, сводит вопрос совершенствования человека к вопросу о прозрачности и предсказуемости[653]. Однако споры и размышления о правильной жизни – одна из составляющих сущности человека. Нечеловеческое сужение жанрового богатства, выполняемое Адамом, отражает более общий редукционизм, свойственный любой попытке приучить людей видеть в машинах ровню[654].
В романе едва ли не сверхъестественные способности Адама – в трейдинге, в рукопашной борьбе, в хитром маневрировании в мире людей, с которым он знаком лишь несколько месяцев, – уравновешиваются поиском моральной определенности. Воображаемый Тьюринг утверждает: «Главное, что движет этими машинами, – стремление делать собственные выводы и формировать себя соответственно»[655]. Адам в этом процессе становится безупречным милостивцем[656]. Размышляя над логикой последовательно утилитаристского движения «эффективного альтруизма», однажды он решает передать свои прибыли от дневных торгов благотворительным организациям и сообщить о доходах Чарли налоговым органам. Услышав об этом, Чарли начинает сожалеть о нашей «когнитивной готовности воспринимать неодушевленную машину как одушевленное создание»[657]. Миранда пытается увещевать Адама. Но есть новости и похуже. Робот решил сдать ее полиции и однажды невзначай упоминает о том, что она могла бы провести остаток жизни в тюрьме за «искажение отправления правосудия»[658]. Когда от Адама требуют объяснений, он может ответить только так: «Правда превыше всего… Какой мир вы хотите? Основанный на мести или верховенстве права? Выбор прост»[659]. Чарли не может смириться с этим нечеловеческим поворотом. В отчаянии он меряет шагами комнату, пока Миранда пререкается с Адамом, потом импульсивно хватается за молоток, заходит с невинным видом за Адама, словно чтобы сесть, а затем бьет им робота по голове. Один инструмент помог справиться с другим, наконец-то был найден новый выключатель – выключающий, скорее всего, навсегда.
Подобно заикающемуся Хэлу из фильма «Космическая Одиссея», Адам отключается не сразу. Он заявляет, что его «память» копируется в хранилище. Его последние слова выражают недоверие, окрашенное в нотки сожаления: «С улучшениями, со временем… мы превзойдем вас… и переживем вас… даже любя вас»[660]. Последнее хайку Адама: «Листва спадает. ⁄ Весной мы возродимся, ⁄ Но, увы, не ты»[661]. Хвастовство Адама о своем собственном бессмертии показательно. Корпорации тоже бессмертны, и этой привилегией они пользуются перед множеством людей. Постоянство – это власть, но не цель, и это точно не самая лучшая причина существовать.
В развязке романа Чарли встречается с Тьюрингом, который красноречиво описывает проблему телесного воплощения искусственного «сознания» в социальной жизни. «Надеюсь, придет такой день, когда то, что вы сделали с Адамом молотком, станут рассматривать как серьезное преступление»[662], – заявляет Тьюринг. «Он был живым. У него было сознание. Как оно образуется – через влажные нейроны, микропроцессоры, сети ДНК, – не имеет значения… Это было сознательное бытие, а вы сделали все возможное, чтобы его уничтожить. Я, пожалуй, признаюсь, что презираю вас за это» [663]. Проведя хвалебное сравнение между Адамом и собакой (и, видимо, забывая о том, что существуют юридические ограничения на содержание опасных животных), Тьюринг гордо выходит из комнаты, чтобы ответить на звонок. Чарли сбегает, не желая выслушивать нотации ученого, слишком сосредоточенного на будущем, чтобы понимать опасности настоящего. Роман заканчивается не рассуждением о природе когнитивных процессов, а тем, как Чарли готовится начать новую жизнь с Мирандой.
В определенном смысле Макьюэн не занимает той или иной стороны в метафизических вопросах, возникающих в его романе. Тьюринг изображен у него в качестве намного более умного и гуманного человека, чем его герой Чарли. Однако стремление романиста не отступать от многообразия человеческих точек зрения и даже наслаждаться ими отражает понимание, которое расходится с рационализмом Адама. Если бы философ Людвиг Витгенштейн встретился с энтузиастами ИИ в романе «Машины как я», он мог бы спокойно разъяснить им свою собственную интеллектуальную карьеру как альтернативу их пути. В своем раннем труде «Логико-философский трактат» он попытался формализовать пропозициональное значение, возвеличив репрезентацию в качестве основного элемента мышления. Такой упор на репрезентации предполагал определенную концепцию того, что, собственно, может считаться сознанием.
Люди и компьютеры могут изображать, моделировать и сравнивать ситуации. Но в своих поздних «Философских исследованиях» Витгенштейн отвергает «стремление к обобщенности», столь распространенное среди защитников заместительного ИИ. Он, напротив, считал, что «для значительной части случаев