Читать интересную книгу Бог, человек, животное, машина. Технология, метафора и поиск смысла - Meghan O'Gieblyn

этих систем - включая ставшую канонической историю о том, как Target узнала о беременности девочки-подростка на основании истории ее покупок раньше, чем ее родители. Эра больших данных превратила то, что раньше считалось благоразумной догадкой, в своего рода прорицательскую силу.

Правда, как заметил мой друг, точность этих предсказаний предполагает - по крайней мере интуитивно - что человеческое поведение детерминировано, что решения, которые мы считаем спонтанными или свободно выбранными, являются всего лишь концом длинной и жесткой причинно-следственной цепи событий. Аргументы в пользу детерминизма часто возвращаются к вопросу о предсказаниях, а в некоторых случаях и о некоем предсказателе. Ученый XIX века Пьер-Симон Лаплас предположил, что если бы существовал интеллект, который знал бы текущее состояние каждого атома во Вселенной, то он мог бы предсказать любое будущее событие. Теология Кальвина идет еще дальше: божественный интеллект существует вне системы и не только предвидит, но и контролирует ее будущее. Но именно здесь все становится неясным. Я подозреваю, что история моего друга осталась со мной, потому что она так точно передает мое замешательство по поводу отношений между предвидением и свободой: В какой степени акт предсказания приводит в действие ту самую судьбу, которую он предвидит?

Наверное, есть некоторая ирония в том, что доктрина о предопределении стала тем, что в конце концов спровоцировало мой кризис веры. Сомнения - естественное условие религиозной веры, и я не в первый раз испытывал сомнения. Но после чтения Кальвина и Лютера стало невозможно не задаваться вопросом, не являются ли мои возражения против божественной справедливости доказательством того, что я сам не принадлежу к избранным. Иначе с чего бы мне приходить в голову такие мысли, если только я никогда не был спасен с самого начала? Мои сомнения приобрели ощущение неизбежности и превратились в порочный круг. Они стали рекурсивными и самореализующимися, и каждая еретическая мысль, казалось, подтверждала, что я испорчен и обречен на ад. Чем более вероятной казалась эта судьба, тем более абсурдным казалось то, что я должен быть наказан за то, что совершенно от меня не зависело, что только усугубляло мои сомнения. Доктрина была похожа на китайскую ловушку для пальцев, ее логика становилась все более укорененной и неизбежной, чем больше я пытался с ней бороться.

Особая мука этого цикла проистекала из того, что невозможно было узнать статус своего спасения. Как и многих других детей евангелистов, меня учили наивному пониманию вечной безопасности - однажды спасенный, всегда спасен, - но, согласно Кальвину, абсолютная уверенность была невозможна. Божественная воля была "черным ящиком". Только Бог знал имена, записанные в книге жизни, и Бог понимал, как мы сами не могли, чисты ли наши побуждения. Невозможно было даже узнать, были ли сами сомнения предначертаны или выбраны по собственной воле. "Ежедневный опыт, - пишет Кальвин в своих "Институтах христианской веры", - заставляет вас осознать, что ваш разум направляется скорее по Божьему побуждению, чем по вашей собственной свободе выбора". Эта доктрина уничтожила не только свободу воли, но и всякое связное чувство собственного достоинства. Признать, что разум управляется Богом, - значит стать машиной. Это значит признать, что сердце - тоже черный ящик, полный скрытых желаний и теневых мотивов, истинные причины которых остаются скрытыми от сознания.

Именно об этом беспокойстве пишет Вебер в книге "Протестантская этика и дух капитализма". Протестантизм, по его мнению, привнес в западную культуру новое, навязчивое сомнение в статусе своего спасения. Те, кто не может знать, являются ли они избранными, сделают все возможное, чтобы вести себя так, как будто они избранные, хотя бы для того, чтобы успокоить свой разум. Они будут делать все, что требуется, потому что никакие заверения не убедят их в том, что их усилия оправдались. Это сомнение породило удивительную энергию - "протестантскую трудовую этику", дух трудолюбия и самоконтроля, который создал необходимые условия для подъема капитализма. Но, как показывает мой собственный опыт, борьба с механизмами судьбы может иметь и обратный эффект. Как только у вас появляются основания полагать, что ваши худшие подозрения верны, бороться с ними становится бессмысленно.

 

-

Самым известным современным пересказом Книги Иова - хотя библейское вдохновение в нем затушевано и заслонено антиутопической политикой - является роман Кафки "Испытание". В романе рассказывается история Йозефа К., анонимного банковского служащего, которого однажды утром арестовывают, не объясняя ему сути его преступления. Пытаясь доказать свою невиновность, он сталкивается с загадочной системой правосудия, которую, кажется, не понимает никто, даже ее клерки и эмиссары. Судебная система имеет на него какое-то досье и хранит жуткие сведения о его прошлых действиях, но он так и не может понять, почему его расследуют и в каком преступлении его подозревают. Нортроп Фрай назвал роман "своего рода "мидрашем" на книгу Иова", в котором непрозрачная природа божественного правосудия переосмыслена как лабиринт современной бюрократии. Стоическое и грозное здание государства становится в двадцатом веке воплощением Иеговы, скрывающего себя в вихре.

Дэниел Дж. Солоу, профессор права, пишущий о частной жизни и слежке, утверждает, что роман прозорливо отражает дилемму современного субъекта информационных технологий. По его мнению, озабоченность сбором данных и предиктивной аналитикой слишком сильно сфокусирована на оруэлловских страхах - идее, что государство следит за нашими самыми частными моментами, жадно выискивая признаки политического несогласия, - в то время как реальные угрозы более кафкианские. Уникальная угроза бюрократического государства заключается в его безликости, отсутствии намерений и смысла. "В "Испытании" изображена бюрократия с непостижимыми целями, которая использует информацию о людях для принятия важных решений о них, но при этом лишает людей возможности участвовать в том, как используется их информация..." Солоу пишет. "Вред от бюрократии - равнодушие, ошибки, злоупотребления, разочарование, отсутствие прозрачности и подотчетности".

По мере того как технологии "черного ящика" становятся все более распространенными, не утихают требования о повышении прозрачности. В 2016 году Генеральный регламент Европейского союза по защите данных включил в свои положения "право на объяснение", заявив, что граждане имеют право знать причину автоматизированных решений, которые их касаются. Хотя в Соединенных Штатах аналогичной меры не существует, технологическая индустрия стала более благосклонно относиться к "прозрачности" и "объяснимости", хотя бы для того, чтобы укрепить доверие потребителей. Некоторые компании утверждают, что они разработали методы, которые работают в обратном направлении, чтобы найти точки данных, которые могли вызвать решения машины - хотя эти объяснения в лучшем случае являются разумными догадками. (Сэм Ритчи, бывший инженер-программист компании Stripe, предпочитает термин "нарративы", поскольку объяснения - это не пошаговое описание процесса принятия решений алгоритмом,