географ Трэвор Паглен, развитие искусственного интеллекта усиливает эти опасения из-за его полной зависимости от исторической информации, на которой проходит машинное обучение: «Прошлое пронизано расизмом. А мы обучаем искусственный интеллект исключительно на данных из прошлого»(17).
В 1940 году Вальтер Беньямин сформулировал проблему еще жестче: «Не существует документа цивилизации, который в то же время не был бы документом варварства»(18). Таким образом, обучать зарождающийся интеллект на остатках предшествующего знания означает закодировать такое варварство в наше будущее.
И эти системы мы находим не только в академических статьях или любительских камерах – они уже определяют макроуровень нашей повседневной жизни. В частности, системы правосудия и охраны общественного порядка уже во многом полагаются на интеллектуальные системы. В половине полицейских служб в Соединенных Штатах внедрены системы «прогнозирующей полицейской деятельности», такие как «PredPol», программное обеспечение, которое использует «высокоуровневую математику, машинное обучение и проверенные теории преступного поведения» для прогнозирования наиболее вероятных мест и времени, когда можно ожидать совершения новых преступлений. Эдакий прогноз погоды в сфере преступности(19).
Как ожидания физических событий связаны со случайными событиями повседневной жизни? Как расчеты поведения приобретают силу закона природы? Каким образом представление о Земле становится представлением о разуме, несмотря на все попытки разделения физического и когнитивного?
Крупнейшее в истории Японии землетрясение Ноби (8,0 балла по шкале Рихтера) произошло в 1891 году на Мино-Оварийской равнине на территории нынешней префектуры Айти. Линия разлома длиной 80 километров уходила в глубь на восемь метров. Были разрушены тысячи зданий, погибли более 7000 человек. После этого японский сейсмолог Фусакичи Омори первым описал модель афтершоков, или повторных толчков, а скорость затухания толчков стала известна как закон Омори. Здесь стоˊит отметить, что закон Омори и все его следствия являются эмпирическими законами и определяются существующими данными, различными для каждого отдельного события. Повторные толчки – грохочущее эхо того, что уже произошло. Несмотря на десятилетия усилий сейсмологов и статистиков, так и не удалось разработать аналогичный метод предсказания землетрясений путем расчета данных о толчках, предшествующих крупному сейсмическому событию.
На законе Омори основывается одна из современных реализаций этого расчета, называемая моделью последовательности афтершоков эпидемического типа, или моделью ETAS, которую сейсмологи сегодня используют для изучения каскада сейсмической активности после сильного землетрясения. В 2009 году математики из Калифорнийского университета в Лос-Анджелесе выяснили, что распределение преступности в городе следовало той же модели. Они сообщили, что «распространение преступности на местном уровне заразно и приводит к формированию очагов преступности в пространстве и времени. Например, грабители неоднократно совершают нападения в одном и том же районе, потому что хорошо знают слабые места этой местности. Перестрелка между бандами может спровоцировать ответные всплески насилия на заданной территории конкурирующей группировки»(20). Для описания этих закономерностей они использовали геофизический термин «самовозбуждение», процесс, при котором то, что случается поблизости, запускает и усиливает события. Математики даже отметили, что городской пейзаж отражает слоистую топологию земной коры, а риск совершения преступлений концентрируется вдоль улиц.
Именно модель последовательности афтершоков эпидемического типа составляет основу сегодняшних программ прогнозирования полицейской деятельности. В 2016 году стоимость отрасли полицейского прогнозирования оценивалась в 25 миллионов долларов, и цифры стремительно растут.
Всякий раз, когда городские управления полиции берут на вооружение «Predpol», как это произошло в Лос-Анджелесе, Атланте, Сиэтле и сотнях других городов США, программа анализирует собранные в регионе за последние несколько лет данные о времени, типе и месте совершения каждого преступления, используя модель последовательности афтершоков эпидемического типа. Полученные результаты пополняются данными по мере совершения новых преступлений и используются для создания поэтапных «тепловых карт» потенциальных проблемных участков. К месту возможных подземных толчков отправляются крейсеры, а полицейских приставляют следить за подозрительными районами. Таким образом, преступление становится физической силой, волной, проходящей через слои городской жизни. Прогноз становится оправданием для проверки документов, обысков, штрафов и арестов. Афтершоки землетрясения, случившегося более столетия назад, прокатываются по современным улицам.
Предсказуемость (или непредсказуемость) землетрясений и убийств, расовые предубеждения непрозрачных систем – все они, если уделить им достаточно времени и внимания, поддаются нашему пониманию, поскольку основаны на моделях прошлого и на повседневном жизненном опыте. Но как быть с новыми технологическими моделями мышления? Мы не понимаем вытекающие из них решения и последствия, потому что когнитивные процессы машин совершенно не похожи на наши собственные.
Одним из аспектов нашего непонимания машинного мышления является его масштабность.
В 2016 году, спустя десять лет после запуска сервиса автоматизированных переводов, в Google приняли решение о существенном пересмотре и усовершенствовании программного обеспечения Google Translate, которое уже набрало популярность, хотя само его название стало синонимом некачественного перевода. В основе машинного перевода лежал метод языкового статистического вывода. Вместо того чтобы пытаться понять, как на самом деле работают языки, система «проглотила» огромные объемы существующих переводов, параллельных текстов с одинаковым содержанием на разных языках. Языковой статистический вывод – лингвистический эквивалент «конца теории» Криса Андерсона; этот метод впервые применили в IBM в 1990-х годах, отказавшись от знаний в предметной области в пользу больших объемов необработанных данных. Исследователь Фредерик Элинек, возглавлявший лингвистическое направление IBM, заявил: «Каждый раз, когда я увольняю лингвиста, эффективность распознавания речи повышается»(21). Роль статистического вывода заключалась в том, чтобы убрать из уравнения необходимость понимания и заменить ее корреляцией на основании имеющихся данных.
В каком-то смысле машинный перевод приближается к идеалу, описанному в 1921 году Вальтером Беньямином в эссе «Задача переводчика»: наиболее точный перевод игнорирует исходный контекст, позволяя проникнуть в глубинный смысл оригинала. Беньямин настаивал на примате слова над предложением и смысла над содержанием. «Настоящий перевод прозрачен, – писал он. – Он не заслоняет оригинал, не загораживает его свет, а, наоборот, позволяет чистому языку, как бы усиленному собственными средствами выражения, более полно осветить оригинал»(22). Беньямин полагал, что переводчик не должен стремиться напрямую передать то, что имел в виду автор, то есть не заниматься «неточной передачей несущественного содержания». Вместо этого следует по-своему передать тот же смысл, работая в своем уникальном стиле письма и перевода. Этого можно достичь, «буквально передавая синтаксис, что доказывает примат слова над предложением как базовой единицы перевода». Только внимательное вчитывание в слова, а не поверхностное переложение авторских фраз, открывает доступ к глубинному значению оригинального текста. «Если предложение – это стена, отделяющая нас от языка оригинала, то буквальный перевод – это арка». Перевод всегда несовершенен, он не преодолевает дистанцию между языками, а лишь подчеркивает ее. Воздушную, невесомую арку можно построить, только смирившись с «дистанцией, чуждостью, недостаточностью и несоответствием между языками», следовательно, перевод – это не изложение смысла, а осознание его отсутствия(23). Машины, по-видимому, на это