из Крайстчёрча; разжигатели ненависти и коварные тролли склеили отснятый материал таким образом, чтобы перехитрить онлайн-детекторы. Бардан и ее коллеги в Европе и Азии отчаянно пытались тушить огонь, пока Калифорния спала.
О’Коннор проснулась в пятницу утром и узнала, что алгоритм не работает. Сначала она подумала, что видеохостингу не хватает модераторов. Еще в начале ночи она встревоженно писала: «У нас слишком мало рецензентов». Но к утру оказалось, что даже это предположение ошибочно. На YouTube каждую секунду стала появляться новая копия удаленного видео со стрельбой. Позже один из руководителей сказал, что тревожная скорость повторных загрузок заставила некоторых внутри компании заподозрить, что в этом замешан какой-то государственный деятель. Мохан, босс О’Коннор, описывал это[276] как «трагедию, которая была буквально создана для того, чтобы стать вирусной».
Вирусность клипов множество раз становилась подарком для YouTube на протяжении всей его истории. Сервис был задуман как бездонное онлайн-хранилище — видео, которые впервые транслировались на других площадках (в том числе кадры из Крайстчёрча), могли легко перескочить на YouTube и моментально набрать огромные просмотры. Желая оставаться актуальным, YouTube изменил свои алгоритмы: отныне они продвигали больше видеоматериалов из последних новостей, чтобы люди, которые раньше после массовой стрельбы включали телевизор, теперь открывали YouTube. Люди так и делали. Даже странности Ютубленда, такие как призыв «подписываться на Пьюдипая», теперь стали главными новостными событиями. В отличие от социальных сетей с их неуклюжими функциями поиска, YouTube предлагал удивительно простые способы найти что угодно. Все те механизмы, которые обычно обеспечивали видеохостингу процветание, все инструменты, созданные без учета того, какие непреднамеренные катастрофы они могут вызвать, слились в сплошной поток «топлива для ночных кошмаров», который компания не могла отключить.
По дороге на работу О’Коннор созвонилась с коллегами, и было принято решение. YouTube будет удалять любые кадры, показывающие стрельбу в Крайстчёрче, а не только точные повторные загрузки. Таким образом зрители вообще лишатся возможности находить материалы об этой трагедии, поскольку видеохостинг впервые удалит из поиска целую категорию. Компания отозвала модераторов, которые не могли действовать с достаточной скоростью. YouTube включил фильтры и передал управление машинам.
Часть IV
Глава 32. «Румба»
В мае 2019 года в Сан-Франциско, недалеко от автострады, по которой многие гуглеры ездили на работу, появился билборд. Надпись на нем гласила: «Расформируем технологических гигантов».
Эту рекламу оплатила кандидат в президенты Элизабет Уоррен, но ее умонастроение распространилось за границы политики. Летом трамповское Министерство юстиции возбудило грандиозное дело, обвинив Google в монополизации рынка. Сенаторы посвятили дискуссию тем опасностям, которые представляет собой неконтролируемый искусственный интеллект в социальных сетях. «Компании позволяют алгоритмам жить своей жизнью», — заявил один законодатель. Республиканцы и демократы, обычно язвительные ко всему на свете, согласились с тем, что компании, контролирующие Интернет, такие как YouTube, чересчур велики и влиятельны.
К лету в YouTube были сглажены многие из его основных трудностей (проблем) — бренды больше не спонсировали случайные видеоролики (по крайней мере, такие случаи не попадали в заголовки газет); безумный детский контент исчез; компания усмирила большинство своих неуравновешенных звезд и отвела бизнес от края пропасти, на котором он оказался в результате рекламных бойкотов. Но из этого кризиса не было однозначного выхода. Уже какое-то время назад правительства решили, что Кремниевой долиной необходимо управлять. В Европе официальные лица приняли Статью 13, радикальный закон, возлагающий на владельцев веб-сайтов больше ответственности за нарушение авторских прав; это подрывало процесс управления правами на YouTube. Многие страны, застигнутые врасплох ростом популярности социальных сетей, начали разрабатывать планы по регулированию отрасли. Даже Давосский форум начал называть[277] Facebook* новым табаком. Хотя к YouTube этот ярлык пока не относился, компания знала, что законодатели будут писать законы не только для соцсетей — достанется и видеохостингу.
Ставки росли, особенно по мере того как мир приближался к 2020 году. В 2019 году The New York Times опубликовала подробное расследование[278] того, как сомнительные с медицинской точки зрения видеоролики препятствовали усилиям по борьбе с вирусом Зика в Бразилии и как повсеместное распространение YouTube способствовало избранию правого президента Жаира Болсонару, который выдвигал сомнительные заявления о грядущем вирусе. Один из первых сотрудников YouTube Мика Шаффер раскритиковал видеохостинг за поддержку опасных теорий, в том числе выступлений конспирологов против вакцин; по его словам, такие вещи не могли бы появиться во время его пребывания на своем посту, когда не было такой жажды прибыли. «Возможно, мы теряли деньги, — сказал он журналисту[279]. — Но, по крайней мере, собаки на скейтбордах никогда никого не убивали». В июне 2019 года квир-автор Карлос Маза публично пристыдил YouTube за попустительство в отношении того, что он считал расистскими оскорблениями со стороны другого ютубера, правого эксперта Стивена Краудера. YouTube отмахнулся от спора, что возмутило некоторых сотрудников. На Прайде в Сан-Франциско, в числе официальных спонсоров которого была Google, несколько десятков гуглеров прошли маршем протеста, неся плакаты с надписью: «Преследование на YouTube убивает нас».
На одном из совещаний сотрудники попросили Воджицки назвать ее самый большой страх. Она быстро ответила: «Регулирование».
YouTube, который так часто проявлял медлительность, когда нужно было реагировать на критику со стороны авторов и сотрудников, начал быстро предпринимать отчаянные усилия по саморегулированию — раньше, чем это сделали правительства. В июне компания переписала свои правила в отношении материалов, разжигающих ненависть; теперь были запрещены видеоролики, в которых «утверждается превосходство какой-либо группы[280] с целью оправдать дискриминацию, сегрегацию или исключение». Исчезло все, что прославляло нацистов или отрицало «хорошо задокументированные насильственные события», такие как Холокост и расстрелы в школах. После Крайстчёрча компания запретила публикацию отснятых преступниками кадров «событий со смертельным исходом или серьезными видами насилия». YouTube обновил политику борьбы с преследованиями и домогательствами, запретив угрозы одних авторов в адрес других; поначалу в правилах делалось исключение для «общественных деятелей», хотя компания специально создала сервис, предназначенный для того, чтобы делать обычных людей знаменитыми. (Позже эту политику распространили и на общественных деятелей.) YouTube нанял экспертов по развитию детей и запустил внутреннюю программу (кодовое название Crosswalk) для продвижения образовательных и полезных детских видеоматериалов. Один сотрудник заметил, что скоро мир оглянется на ранний YouTube и увидит, насколько иным он был до всех этих капитальных ремонтов — так же, как мы смотрим на автомобили, выпущенные до появления ремней безопасности.
Однако новые защитные меры не вызвали всеобщего восхищения. Через несколько недель после анонса обновлений о разжигании ненависти менеджеры YouTube написали в Twitter, что эти правила применяются