разработали частную форму шифрования, подобную той, которая используется сегодня в личной электронной переписке. Очень важно, что, как и в случае с другими рассмотренными нами нейронными сетями, принцип шифрования между Алисой и Бобом нам не понятен. Его работа скрыта в глубинных слоях Сети. То, что утаивалось от Евы, утаивается и от нас. Машины учатся хранить свои секреты.
Три закона робототехники Исаака Азимова, сформулированные в 1940-х годах, гласят:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат первому закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит первому или второму законам(35).
К этому мы могли бы добавить четвертый закон: робот – или любая другая разумная машина – должен уметь объяснять себя людям. Такой закон должен стоять выше других правил, потому что это этический императив, а не указания к действию. Тот факт, что этот закон уже не действует и мы к тому же сами создали условия, чтобы он неизбежно нарушался, приводит нас к естественному выводу, что так будет и с другими законами. Будущее, в котором мы не понимаем собственные творения, уже наступило. Результатом такой непрозрачности всегда является насилие, и иначе быть не может.
Рассказывая о поражениях Каспарова от «Deep Blue» и Седоля от «AlphaGo», мы не затронули другую важную историю. Каспаров был разочарован результатами партии и усомнился в возможностях машины. В итоге обеспокоенность заставила его искать способ спасти шахматы от господства машин. Таких попыток было много, и лишь немногие увенчались успехом. Дэвид Леви, шотландский чемпион по шахматам, сыгравший много показательных игр против машин в 1970-х и 1980-х годах, разработал «антикомпьютерный» стиль ограниченной игры, который он описал как «ничего не делать, но делать это хорошо». Его игра была чрезвычайно консервативной, и компьютерные оппоненты не могли придумать долгосрочного плана, пока позиция Леви не становилась настолько сильной, что его уже нельзя было победить. В 1990-х и начале 2000-х годов израильский гроссмейстер Борис Альтерман в матчах с компьютерами разработал похожую стратегию, которая стала известна как «Стена Альтермана». Он долго не выводил фигуры за ряд пешек, зная, что чем больше фигур у него оставалось на доске, тем больше возможных ходов приходилось просчитывать машине(36).
Помимо изменения стиля, можно изменить саму игру. Аримаа – это игра, созданная в 2002 году Омаром Сайедом на основе шахмат. Компьютерный инженер, получивший образование в области искусственного интеллекта, он специально разработал игру так, чтобы людям было легко запомнить правила и интересно играть, а машинам было бы сложно просчитать ходы. В Аримаа игроки могут располагать свои фигуры произвольно, а побеждает тот, кто первым приведет одну из пешек, которые здесь называются кроликами, на противоположную сторону доски. Чтобы расчистить путь для кроликов, более сильными фигурами можно толкать или тянуть фигуры противника и с помощью клеток-ловушек убирать их с доски.
Множество различных начальных расстановок, возможность перемещать фигуры противника и совершать до четырех действий за ход приводят к комбинаторному взрыву: возможных вариантов развития игры так много, что компьютерная программа не в состоянии их обработать. «Стена Альтермана» доведена до экспоненциальной крайности. По крайней мере, на это надеялись. Первый компьютерный турнир по игре Аримаа был проведен в 2004 году, и наиболее успешная программа получила право сразиться с группой лучших игроков за денежный приз. В первые несколько лет люди легко побеждали своих компьютерных противников, и вероятность победы даже увеличивалась, поскольку их навыки в новой игре улучшались быстрее, чем навыки программ. Но в 2015 году машина уверенно выиграла соревнование, и этот исход едва ли обратим.
Когда сталкиваешься с мощью и непрозрачностью интеллектуальных систем, возникает соблазн остановиться, сорваться или признать поражение. Леви и Альтерман строили «стены», Аримаа пыталась отвоевать пространство, создать альтернативную площадку вне сферы, где господствуют машины, но у Каспарова был иной подход. Он не отказался от соревнования с машинами и уже через год после понесенного от «DeepBlue» поражения вернулся с новым видом продвинутых шахмат, который называется адванс.
Продвинутые шахматы также именуют «киборг» и «кентавр», что сразу вызывает в голове образы человека, соединенного с машиной, или мифическим, или даже инопланетным существом. Легенда о кентавре в греческой мифологии возникла, возможно, с прибытием конных воинов из степей Средней Азии, когда верховая езда была еще не известна в Средиземноморье. (Говорят, что ацтеки, впервые увидевшие испанских кавалеристов, также предположили, что столкнулись с помесью человека и лошади.) Роберт Грейвс утверждал, что кентавр был еще более древней фигурой, пережитком доэллинских земных культов. Кентавры также были потомками Нефелы – нимфы облаков. Таким образом, кентавры могут быть как необходимой мерой перед лицом современных невзгод, так и реинкарнацией мифических существ Золотого века.
В продвинутых шахматах игрок-человек и компьютерная шахматная программа выступают в одной команде против другой пары человек – компьютер. Адванс произвела революцию в шахматах, открыла невиданные ранее области и стратегии игры. В первую очередь, удалось избавиться от риска совершить грубую ошибку, так как компьютер анализирует любое предположение, прежде чем шахматист сделает ход. В итоге возможно выстроить игру с идеальной тактикой и проработанной стратегией.
Обычно в адванс играют пары человек – машина, но, пожалуй, самые ошеломительные результаты случаются, когда человек и машина играют против одной машины. Со времен «Deep Blue» было разработано множество компьютерных программ, которые могут легко и эффективно победить любого человека. Более того, из-за увеличения объема памяти и вычислительной мощности для того, чтобы одолеть человека, достаточно обычного, а не суперкомпьютера. Но даже самая мощная современная программа проиграет опытному игроку, если у того будет доступ к своему собственному компьютеру, даже если компьютер-противник на порядок мощнее компьютера-помощника. Сотрудничество между человеком и машиной оказывается более действенной стратегией, чем наращивание вычислительной мощности.
В этом случае к играм применяется алгоритм оптометриста – в каждой отдельной ситуации для достижения наилучшего результата соответствующие навыки людей и машин не противопоставляются друг другу, а складываются вместе. Сотрудничество также снижает вычислительную непрозрачность; благодаря совместной игре мы моментально, а не постфактум, можем получить более глубокое понимание того, как сложные машины принимают решения. Признание реальности нечеловеческого интеллекта влечет глубокие последствия для того, как мы действуем в мире, и требует четкого осмысления нашего собственного поведения, возможностей и ограничений. Хотя во многих дисциплинах машинный интеллект быстро опережает человеческие возможности, это не единственный способ мышления, и во многих областях он является катастрофически разрушительным. Любая стратегия,