они начали задаваться вопросом: правда ли, что их система тратит все свои ресурсы на слежку за мусульманами в Интернете и при этом не прикасается к экстремистам из других конфессий или слоев общества?
* * *
Через несколько недель после встречи «Желтый код» толпы подростков выстроились в очередь, желая попасть на VidCon. Эта конференция сильно отличалась от первой, проведенной семь лет назад. Корпорации захватили власть. На месте ее проведения, модернистском здании конференц-центра Анахайма в нескольких кварталах от Disneyland, красовались три больших баннера с рекламой шоу YouTube Originals с заметно разнообразным актерским составом (Воджицки сдержала свое обещание и разместила на билборде чернокожего автора). Сети NBC и Nickelodeon, некогда анемичные по отношению к YouTube, были спонсорами мероприятия. Восемь месяцев спустя Viacom, пытаясь заключить Интернет в медвежьи объятия, купит VidCon.
Безопасность на VidCon-2017 обеспечивалась намного строже, чем раньше. Прошлым летом во время встречи фанатов в Орландо был застрелен музыкант-ютубер. И атмосферу заряжали другие силы. В июне того же года Шарлотсвилл переименовал свой Ли Парк, что вызвало ужасный митинг головорезов правого толка.
Внутри конференц-центра автор Акила Хьюз, в 2016 году вдохновившая мероприятие #YouTubeBlack, наблюдала за четырьмя коллегами на дискуссионной панели «Женское творчество и вовлеченность онлайн». Многие зрители пришли посмотреть в первую очередь на одну участницу — феминистку Аниту Саркисян, автора сериала на YouTube, в котором раскрываются сексистские мотивы в видеоиграх. Это вкупе с готовностью осуждать онлайн-троллей сделало ее постоянной мишенью во время саги «Геймергейт».
Дискуссия на VidCon затронула и эту тему. Когда толпа разгорячилась, Саркисян указала на бородатого мужчину в зале. «Думаю, что один из моих преследователей сидит в первом ряду, — сказала она. — Я ненавижу уделять тебе внимание, потому что ты не человек, а мусор».
Акила Хьюз знала об этом персонаже. Плодовитый британский ютубер Карл Бенджамин (псевдоним Саргон Аккадский) даже получил некую известность в прессе за особое обращение с одной известной дамой; после того как женщина-политик из Британии рассказала, как часто ей присылают в Интернете угрозы изнасилования, Бенджамин высмеял ее, сказав: «Я тебя даже насиловать не хочу». Он снял несколько видеороликов с критикой Саркисян, часто используя в своих титрах ее ник на YouTube (Feminist Frequency) — это старая хитрость, влияющая на поиск. В своих видеороликах он старался не оглашать явных призывов к причинению вреда, что нарушало правила YouTube, но его враждебность ни для кого не была секретом. Хьюз знала его по выборам Трампа. Через несколько дней после голосования она опубликовала эмоциональное видео с кадрами, снятыми в ночь выборов. Это не обычный видеоблог. Хьюз, опечаленная проигрышем Клинтон, была одета в черную толстовку с белой надписью «Ужасно». Она говорила о личных опасениях по поводу политики здравоохранения и о более обширных волнениях, которые испытывали чернокожие женщины и многие другие люди. Саргон Аккадский загрузил ее клип на собственный канал с насмешливым позаголовком: «Уровни осведомленности борцов за социальную справедливость». Хьюз узнала об этом после того, как в Интернете на нее обрушился поток гадких сообщений — расовые оскорбления и фальшивые фото, на которых она истекает кровью. К тому времени девушка подписала контракт на издание своей книги, и ее агент внезапно получил множество смущающих писем от незнакомцев: они называли Хьюз настоящей расисткой и требовали прекратить сотрудничество с ней.
Бенджамин и его единомышленники-ютуберы пришли на VidCon пораньше, чтобы занять первые ряды. Дискуссионная сессия закончилась без серьезных столкновений, но напряжение потом перетекло в Twitter и YouTube, где ссоры авторов всегда повышали число просмотров. В это оказался вовлечен Хэнк Грин; до видеоблогера дошло, что в его обязанности ведущего VidCon теперь входят решения о поведении в культурном дискурсе. В конце концов он опубликовал заявление. Ему не хотелось, чтобы ораторы называли слушателей мусором. Но он также не оценил действия YouTube: компания просто разжигала возмущение и существовала как «базовый лагерь для многолетних преследований», побуждая подписчиков к язвительным атакам, которые «концентрировались не на идеях, а на людях (обычно женщинах), — написал Грин. — Мы видим, как эти методы изнашиваются в ткани не только культуры Интернета, но и всего нашего мира». Он сказал Бенджамину, что на следующих видеоконференциях ему будут не рады. Бенджамин вышел на YouTube, чтобы обсудить отношение к себе. Он появился на канале Джо Рогана и опубликовал собственное видео с анимационной миниатюрой, изображающей Саркисян в виде потной, острозубой медузы. Это был один из его самых популярных роликов.
Для Хьюз весь этот инцидент выглядел так, будто комментарии и алгоритмы YouTube материализовались и ожили. Хэнк Грин попытался сделать хоть что-то. YouTube просто отказался реагировать, подумала она.
* * *
Конечно, YouTube все-таки пытался улучшить свои алгоритмы. Но в том году, как обычно, стремительный рост платформы опередил усилия компании.
В YouTube знали, что реклама сходит на нет. Поскольку бойкоты затягивались, Воджицки в мае принесла публичные извинения; на ежегодной рекламной выставке компании она пообещала маркетологам больше улучшений. Но она также назвала анархию сайта преимуществом, заявив: «YouTube — не телевидение и никогда им не будет». (Затем YouTube анонсировал новый сериал, спродюсированный Райаном Сикрестом, ведущим шоу «Американский идол»; за этим последовали живые выступления телезвезд Кевина Харта и Джеймса Кордена.) В Сан-Бруно анархия не приветствовалась. Воджицки поручила команде инженеров найти выход из ситуации с бойкотом. Это был уже «Оранжевый код»: не совсем аварийно-красный, но близкий к нему. Программисты создали инструменты для подготовки отчетов рекламодателям YouTube; в этих документах показывалось, когда реклама выходила в свет и сколько они тратили. «Это было немного хаотично», — вспоминал один из участников. Он добавил также, что команда модераторов YouTube была «слишком немногочисленной для выполнения этой задачи». YouTube выделил больше ресурсов на то, чтобы предотвращать спонсорство проблемных видеоматериалов, и дал проекту дерзкое название MASA (Make Ads Safe Again — «Сделаем рекламу безопасной снова»).
Другим инженерам поручили скорректировать алгоритмы в соответствии с новым подходом, принятым после терактов на Лондонском мосту. Любые видеоролики с «подстрекательским религиозным или расистским содержанием», которые противоречили новым правилам, но не нарушали их, помещались в штрафную зону. Впоследствии YouTube разработал еще более мощные инструменты, позволяющие скрывать видео в результатах поиска; внутри компании этот процесс называли свистом. Один бывший руководитель описал его как метод «глубокой фильтрации» видеоматериалов без их удаления. Компания стала более чувствительной к удалениям после критики со стороны правозащитных групп, утверждавших, что в качестве сопутствующего ущерба грубая модерация YouTube уничтожает ценные архивы военных преступлений.
Тем временем ведущие инженеры YouTube раздумывали, что делать с сомнительными видеороликами, которые не были подстрекательским или расистским контентом.