Мгновенно был составлен алгоритм действий. Видеохостинг должен был быстро классифицировать отснятый материал по своему градиенту насилия и выслать соответствующие правила модераторам и машинам. О’Коннор решила, что видео следует удалить, привела все колеса в движение и, поскольку все еще была ночь, попыталась немного отдохнуть.
Тала Бардан, специалист по насильственному экстремизму на YouTube, проснулась рано и увидела новости о стрельбе. Женщина расплакалась. Потом вытерла слезы, открыла компьютер и начала просматривать видеозапись, сделанную террористом. Еще тяжелее было наблюдать за очевидцами — на некоторых кадрах верующие и соседи плакали, не веря своим глазам. Бардан помогла написать руководство для модераторов: «Удаляйте любые повторные загрузки или клипы, восхваляющие это насилие, но будьте осторожны, чтобы не трогать новостные репортажи». Она поехала на такси в офис, где работала без перерыва; все выходные она провела дома, просматривая кадры насилия, а муж приносил к ее столу тарелки с едой. YouTube переполнился комментариями к ролику из Крайстчёрча; разжигатели ненависти и коварные тролли склеили отснятый материал таким образом, чтобы перехитрить онлайн-детекторы. Бардан и ее коллеги в Европе и Азии отчаянно пытались тушить огонь, пока Калифорния спала.
О’Коннор проснулась в пятницу утром и узнала, что алгоритм не работает. Сначала она подумала, что видеохостингу не хватает модераторов. Еще в начале ночи она встревоженно писала: «У нас слишком мало рецензентов». Но к утру оказалось, что даже это предположение ошибочно. На YouTube каждую секунду стала появляться новая копия удаленного видео со стрельбой. Позже один из руководителей сказал, что тревожная скорость повторных загрузок заставила некоторых внутри компании заподозрить, что в этом замешан какой-то государственный деятель. Мохан, босс О’Коннор, описывал это[276] как «трагедию, которая была буквально создана для того, чтобы стать вирусной».
Вирусность клипов множество раз становилась подарком для YouTube на протяжении всей его истории. Сервис был задуман как бездонное онлайн-хранилище — видео, которые впервые транслировались на других площадках (в том числе кадры из Крайстчёрча), могли легко перескочить на YouTube и моментально набрать огромные просмотры. Желая оставаться актуальным, YouTube изменил свои алгоритмы: отныне они продвигали больше видеоматериалов из последних новостей, чтобы люди, которые раньше после массовой стрельбы включали телевизор, теперь открывали YouTube. Люди так и делали. Даже странности Ютубленда, такие как призыв «подписываться на Пьюдипая», теперь стали главными новостными событиями. В отличие от социальных сетей с их неуклюжими функциями поиска, YouTube предлагал удивительно простые способы найти что угодно. Все те механизмы, которые обычно обеспечивали видеохостингу процветание, все инструменты, созданные без учета того, какие непреднамеренные катастрофы они могут вызвать, слились в сплошной поток «топлива для ночных кошмаров», который компания не могла отключить.
По дороге на работу О’Коннор созвонилась с коллегами, и было принято решение. YouTube будет удалять любые кадры, показывающие стрельбу в Крайстчёрче, а не только точные повторные загрузки. Таким образом зрители вообще лишатся возможности находить материалы об этой трагедии, поскольку видеохостинг впервые удалит из поиска целую категорию. Компания отозвала модераторов, которые не могли действовать с достаточной скоростью. YouTube включил фильтры и передал управление машинам.
Часть IV
Глава 32. «Румба»
В мае 2019 года в Сан-Франциско, недалеко от автострады, по которой многие гуглеры ездили на работу, появился билборд. Надпись на нем гласила: «Расформируем технологических гигантов».
Эту рекламу оплатила кандидат в президенты Элизабет Уоррен, но ее умонастроение распространилось за границы политики. Летом трамповское Министерство юстиции возбудило грандиозное дело, обвинив Google в монополизации рынка. Сенаторы посвятили дискуссию тем опасностям, которые представляет собой неконтролируемый искусственный интеллект в социальных сетях. «Компании позволяют алгоритмам жить своей жизнью», — заявил один законодатель. Республиканцы и демократы, обычно язвительные ко всему на свете, согласились с тем, что компании, контролирующие Интернет, такие как YouTube, чересчур велики и влиятельны.
К лету в YouTube были сглажены многие из его основных трудностей (проблем) — бренды больше не спонсировали случайные видеоролики (по крайней мере, такие случаи не попадали в заголовки газет); безумный детский контент исчез; компания усмирила большинство своих неуравновешенных звезд и отвела бизнес от края пропасти, на котором он оказался в результате рекламных бойкотов. Но из
Ставки росли, особенно по мере того как мир приближался к 2020 году. В 2019 году The New York Times опубликовала подробное расследование[278] того, как сомнительные с медицинской точки зрения видеоролики препятствовали усилиям по борьбе с вирусом Зика в Бразилии и как повсеместное распространение YouTube способствовало избранию правого президента Жаира Болсонару, который выдвигал сомнительные заявления о грядущем вирусе. Один из первых сотрудников YouTube Мика Шаффер раскритиковал видеохостинг за поддержку опасных теорий, в том числе выступлений конспирологов против вакцин; по его словам, такие вещи не могли бы появиться во время его пребывания на своем посту, когда не было такой жажды прибыли. «Возможно, мы теряли деньги, — сказал он журналисту[279]. — Но, по крайней мере, собаки на скейтбордах никогда никого не убивали». В июне 2019 года квир-автор Карлос Маза публично пристыдил YouTube за попустительство в отношении того, что он считал расистскими оскорблениями со стороны другого ютубера, правого эксперта Стивена Краудера. YouTube отмахнулся от спора, что возмутило некоторых сотрудников. На Прайде в Сан-Франциско, в числе официальных спонсоров которого была Google, несколько десятков гуглеров прошли маршем протеста, неся плакаты с надписью: «Преследование на YouTube убивает нас».
На одном из совещаний сотрудники попросили Воджицки назвать ее самый большой страх. Она быстро ответила: «Регулирование».
YouTube, который так часто проявлял медлительность, когда нужно было реагировать на критику со стороны авторов и сотрудников, начал быстро предпринимать отчаянные усилия по саморегулированию — раньше, чем это сделали правительства. В июне компания переписала свои правила в отношении материалов, разжигающих ненависть; теперь были запрещены видеоролики, в которых «утверждается превосходство какой-либо группы[280] с целью оправдать дискриминацию, сегрегацию или исключение». Исчезло все, что прославляло нацистов или отрицало «хорошо задокументированные насильственные события», такие как Холокост и расстрелы в школах. После Крайстчёрча компания запретила публикацию отснятых преступниками кадров «событий со смертельным исходом или серьезными видами насилия». YouTube обновил политику борьбы с преследованиями и домогательствами, запретив угрозы одних авторов в адрес других; поначалу в правилах делалось исключение для «общественных деятелей», хотя компания специально создала сервис, предназначенный для того, чтобы делать обычных людей знаменитыми. (Позже эту политику распространили и на общественных деятелей.) YouTube нанял экспертов по развитию детей и запустил внутреннюю программу (кодовое название Crosswalk) для продвижения образовательных и полезных детских видеоматериалов. Один сотрудник заметил, что скоро мир оглянется на ранний YouTube и увидит, насколько иным он был до всех этих капитальных ремонтов — так же, как мы смотрим на автомобили, выпущенные до появления ремней безопасности.
Однако новые защитные меры не вызвали всеобщего восхищения. Через несколько недель после анонса обновлений о разжигании ненависти менеджеры YouTube написали в Twitter, что эти правила применяются «без политической предвзятости», на что Дональд Трамп — младший ответил: «Вам никто не верит». После того как YouTube удалил рекламу с канала консервативного комика Краудера, сенатор Тед Круз потребовал от видеохостинга «перестать изображать из себя Бога». Для правых сторонников Трампа «разжигание ненависти» было всего лишь прикрытием, с помощью которого Кремниевая долина стремится навязать свой либерализм всем подряд. Сталкиваясь с такими прямыми нападками, YouTube никогда не наносил ответных ударов. Напротив, он удвоил веру в свои машины; компания написала правила, но выполнять их должны были автоматизированные системы, которые, по ее мнению, работали быстрее и эффективнее, без примеси человеческих предубеждений. Машины умели масштабировать себя. У машин не было никаких личных чувств к Дональду Трампу. YouTube стойко придерживался этой логики, что иногда вызывало недоверие. Еще в 2018 году из основной сети был удален шутник-провокатор Алекс Джонс с его «информационными войнами»; это произошло после того, как его в течение месяца забанили Spotify, Apple, Twitter, Facebook* и YouTube. Это выглядело так, будто крупные платформы, которые годами транслировали конспирологические разглагольствования Джонса, решили, что он перешел коллективную черту. Это не совсем верно. Собственно говоря, YouTube заморозил аккаунт Джонса за публикацию издевательств над несовершеннолетним, что является нарушением правил о защите детей. (Видео не было связано с его параноидальными теориями о стрельбе в школе.) Затем Джонс попытался обойти блокировку и загрузить данные на другой аккаунт, из-за чего его сразу исключили. YouTube снял его по формальным основаниям, как Аль-Капоне когда-то арестовали за уклонение от уплаты налогов. (В то время у Джонса было более двух миллионов подписчиков на YouTube.)
Несмотря на быструю модернизацию видеохостинга, осенью Дядя Сэм все-таки устроил на него облаву. Сервис собрал у себя всеядную детскую аудиторию, такую же огромную, как телевизионная (или, может быть, даже больше), но его не связывали те правила, которым подчинялось телевидение. Стандартная линия компании YouTube — «дети смотрят только под присмотром родителей» — больше не выдерживала критики. В сентябре 2019 года агентство FTC обвинило YouTube в нарушении COPPA, закона о защите конфиденциальности детей, который запрещает таргетированную рекламу в детских СМИ, и оштрафовала компанию на 170 миллионов долларов, что было самой большой суммой за всю историю подобных дел. Впоследствии YouTube вынужден был разделить свой сайт на две части: каждое видео либо получало пометку «Сделано для детей», либо нет; материалы, помеченные таким образом, не имели права показывать дорогую рекламу, основанную на зрительском поиске и личных данных. Это снизило доходы тысяч авторов.
Даже рьяные болельщики YouTube начали выражать сомнения. После ухода с поста руководителя европейских операций компании Патрик Уокер все еще хвалил YouTube за изобретение «совершенно нового языка повествования». И все же он решил никогда не оставлять свою маленькую дочь наедине с сайтом. «На самом деле нам не удалось защититься от темной стороны, — вспоминал он. — Эти платформы стали настолько захватывающими, что люди начали терять ощущение свободы воли». Уокер основал образовательную компанию Uptime, чтобы убедить людей прекратить бессмысленную прокрутку сети, — то есть заявленная им цель полностью противоречила той, которую его прежний работодатель закладывал в свои алгоритмы.
Сьюзен Воджицки разработала готовый ответ на любые нападки, которых становилось все больше. Он стал для компании мантрой: «Четыре „R“ ответственности». Это была клятва удалять (Remove) материалы, нарушающие правила; повышать (Raise) рейтинг «авторитетных» источников, вознаграждать (Reward) «доверенных» авторов и сокращать (Reduce) количество пограничных материалов.
Воджицки декламировала эти максимы на собраниях и во время тура доброй воли, давая интервью популярным ютуберам. Первое из них она записала в апреле, через месяц после трагедии в Крайстчёрче, раскрыв логику компании и ее политическую стратегию.
Перед поездкой в Индию Воджицки объявила, что эта страна является самым быстрорастущим рынком для YouTube, поскольку там видеохостинг смотрят более 265 миллионов человек в месяц, и что его новый конкурент TikTok внезапно приобрел в Индии огромную популярность. После приземления она поговорила с комедийной актрисой и полиглотом Праджактой Коли на канале MostlySane. Коли спросила, что она сама смотрит на YouTube. «Думаю, что я типичный пользователь, — ответила Воджицки[281]. — Мне нравятся видео по йоге». Она также упомянула кулинарию и рукоделие. (YouTube инициировал внутренние усилия по привлечению на сайт большего числа женщин, что сильно отразилось на зрителях мужского пола; возможно, этим объяснялась просчитанная открытость Сьюзен.)
Воджицки перечислила все способы, которыми YouTube стремится поддерживать авторов. А затем попыталась прояснить причины возросшей строгости компании в отношении того, что авторы могут транслировать и сколько им платят. «Если бы я сказала, что у меня только одно направление работы, — заявила она, — то этим направлением была бы ответственность». Но здесь, как и в будущих интервью, Воджицки очень осторожно объясняет, что она и ее компания не диктуют свои условия. Это прерогатива зрителей. Когда YouTube оценивает и рекомендует какие-нибудь видео, он полагается на клики, опросы и количество просмотров. «Так что решения принимаем не мы, — сказала Воджицки, отвечая Коли. — Все это сообщают нам наши пользователи». Она добавила, что так легче «действительно выделить тот контент, который полезен для наших пользователей и для общества. И опять же, мы не хотим, чтобы за этим стояли