И он подумал, что машины YouTube стали гораздо лучше настраиваться на качество. После случая с FTC видеохостинг перестал относиться к своему детскому приложению как к программной халяве и назначил сотрудников курировать отбор, как это когда-то делали кулхантеры на главной странице YouTube. Компания учредила фонд для ютуберов, создающих детские материалы, и сообщила авторам, что будет финансировать видео, которые «способствуют достижению результатов»[300], связанных с такими субъективными характеристиками, как послушание, любознательность и самоконтроль. YouTube заявил, что его система будет вознаграждать те клипы, которые побуждают юных зрителей заниматься чем-то не в Интернете, а в реальном мире.
«Это самая здоровая среда для алгоритмов, какую я когда-либо видел», — говорил Джхо. Казалось, что YouTube отчасти перестал слепо верить в машины. Казалось, что люди всерьез участвовали в его делах.
Кроме того, во время пандемии детский YouTube стал центром притяжения для магнатов новых медиа. Цифровая студия Moonbug Entertainment[301] приобрела три гигантских канала YouTube, собрав арсенал (семь миллиардов просмотров в месяц), способный соперничать с любым кабельным телеканалом. К 2020 году маленький Райан Кадзи был опытным профессионалом девяти лет от роду. Он почти отказался от распаковки игрушек, которая принесла ему известность, и занялся съемками научных экспериментов, игровых состязаний (Edible Candy vs. Real!) и физических упражнений. Он увлекся видеоиграми. В начале пандемии Райан и его родители опубликовали видеозапись своего разговора с чиновником здравоохранения о COVID-19. Райан — неутомимый артист — демонстрировал слишком эмоциональные реакции, как человек, который большую часть своей жизни провел перед камерой.
Однако весь творческий багаж Райана по-прежнему привлекал к нему и к видеохостингу YouTube пристальное внимание. В 2020 году заголовок в The New York Times гласил: «Наши дети толстеют по вине „детских инфлюенсеров“?» Рядом красовался кадр из старого видео, где Райан играет кассира McDonald’s. Правозащитная группа обвинила его в нарушении закона о запрете рекламы, негативно влияющей на детей. Бывший менеджер Maker Крис Уильямс основал развлекательную компанию PocketWatch, которая работала с Райаном и другими маленькими авторами YouTube. Уильямс считал, что критики юной звезды заблуждаются, и сравнивал их с ругателями, которые в 1990-х годах подняли моральную панику по поводу видеоигр и рэпа. По его мнению, критики не считали, что молодой аудитории приносит пользу присутствие на экране узнаваемой фигуры — даже такой знаменитой, как Райан.
Когда Райан впервые попал в чарты YouTube, его родители основали продюсерскую студию, чтобы успех мальчика приносил доходы. Они продавали в Walmart и Target игрушки, одежду и постельные принадлежности под брендом Ryan. Они создали анимированного персонажа Райана, который будет продолжать его дело, если тот однажды перестанет ютубить. Этот персонаж появился на параде Macy’s в честь Дня благодарения. Журнал Forbes ежегодно составлял список самых богатых ютуберов; начиная с 2018 года[302], Райан возглавлял этот список. Его предполагаемый заработок в 2020 году приблизился к 30 миллионам долларов — сумма, которая шокировала практически всех, кто ее слышал.
Мир все еще не мог понять, как работают медиа в эпоху YouTube. С точки зрения Уильямса, Райан был не просто девятилетним ютубером, а важнейшим элементом неотвратимой силы бизнеса. «Я из Disney, — сказал Уильямс. — Разница между 30 миллионами долларов и Микки-Маусом довольно велика». Пока дети смотрят видео, нам есть куда расти.
С такой огромной целевой аудиторией и платежной системой YouTube может рассчитывать на долгое и прочное лидерство в своей отрасли. Еще одно его преимущество — быть внутри Google, бесспорного лидера в области искусственного интеллекта. Это позволило YouTube создать компьютерную систему, которая к 2020 году научилась обнаруживать очевидные нарушения — нацистский символ или сексуальные комментарии относительно детей — так же быстро, как и песню, защищенную авторским правом. По словам руководства YouTube, это означало, что большинство «насильственных» видеоматериалов удалялись вообще без участия человека.
Но сверхчеловеческий искусственный интеллект Google не сумел решить более запутанную проблему — затяжной кризис вокруг правды и дезинформации в Сети.
Для решения этой проблемы YouTube попытался использовать информатику и свод ее правил. Как и другие технологические платформы, YouTube запрещал определенные темы, когда они становились неприемлемыми с политической точки зрения. За месяц до выборов 2020 года YouTube запретил видеоролики, пропагандирующие QAnon[303], экстремистское движение за Трампа.
Когда появились вакцины против COVID-19, YouTube удалил кадры, которые ставили под сомнение официальные научные рекомендации. (По этой причине было удалено и несколько видеороликов Трампа.) После начала спецоперации на Украине, YouTube заблокировал российские государственные медиаканалы за нарушение правил, запрещающих «упрощать хорошо задокументированные насильственные события». YouTube удалил более миллиона роликов за «опасную информацию о коронавирусе». В рамках системы под названием «Золотой набор» сотрудники предоставили машинным детекторам тысячи примеров: это видео о COVID-19 содержит ложь, а это — нет.
Тем не менее YouTube знал, что этот процесс не идеален. «Люди полагают, что у нас есть отличный искусственный интеллект, способный управлять автомобилями и всем прочим, — сказал Гудроу, ветеран инженерного дела YouTube. — Но я думаю, что сейчас мы не можем даже определить, какие конкретные претензии выдвигаются в видеоматериалах».
Даже если бы это было возможно, мало кто за пределами компании согласился бы принять точное определение дезинформации; дебаты по этому вопросу обычно заходили в политический тупик. YouTube по большому счету остался в стороне от драки. Возмущение прессы и властных структур обычно было направлено на социальные сети, а не на видеохостинг. В 2021 году президент Джо Байден раскритиковал технологические платформы за нерешительную позицию в отношении вакцин, в частности обвинив Facebook* в том, что сеть «убивает» людей ложью. Гнев правых был в основном направлен на Twitter, который отключил Трампа от сервиса после восстания 6 января. Марк Цукерберг и Джек Дорси, руководители Facebook* и Twitter, неоднократно давали показания перед Конгрессом; Сьюзен Воджицки никогда этого не делала. YouTube был спящим гигантом социальных медиа.
Для этого было много причин. Положение YouTube позволяло ему легче избегать информационных войн. Не исключено, что вы увидите, как ваш взбалмошный дядюшка разглагольствует о вакцинах в Facebook* или Twitter, но на YouTube такого, скорее всего, не случится. В топах популярности Facebook[304], * неоднократно оказывался политический контент. На YouTube по-прежнему доминировали музыкальные, игровые и детские материалы. Как и Facebook*, YouTube на неопределенный срок удалил аккаунт Трампа без четких планов по его восстановлению; но Трамп и раньше не был столь популярным на видеохостинге, и его отсутствие привлекло меньше внимания. А Facebook* оставалась более заметной боксерской грушей; осенью 2021 года некий активист опубликовал серию разоблачительных документов, в том числе доказательства того, что Facebook* недостаточно быстро боролась с ложью о вакцинах от COVID-19. Некоторые считали, что YouTube управляется лучше.
Или, возможно, причина в том, что на YouTube было сложнее заглянуть. Довольно просто вычленить сомнительные утверждения о вакцинах из написанного текста — например, поста в Facebook* или Twitter, — но определить, содержится ли это в длинном видеофильме, гораздо сложнее. YouTube делился с посторонними относительно небольшим количеством данных, и такая сдержанность помогла компании не привлекать пристального внимания. После 2020 года YouTube стал больше сообщать публике о своих алгоритмах и показателях, которые демонстрировали его прогресс в достижении целей, — прежде чем удалить видео, нарушающие правила или близкие к этому, специалисты отмечали, что просмотры этих материалов были низкими и продолжали падать[305]. Но YouTube сам оценивал свою работу. Ни одна внешняя группа не проводила аудит результатов. Взять хотя бы «вакцинный» крестовый поход Байдена против социальных сетей: он основывался на выводах правозащитной группы, которая изучила статистику, опубликованную в Facebook* и Twitter, а YouTube в отчетах не упоминался просто потому, что не публиковал сопоставимые данные[306]. Разоблачитель, написавший о Facebook*, сообщил, что Instagram* игнорирует внутренние исследования о вреде, который приложение наносит психическому здоровью девочек-подростков, и это вызвало волну критики в адрес Facebook*. Впоследствии несколько человек, работавших на YouTube, заявили, что их компания либо не публиковала такие исследования, либо просто не проводила их.
«YouTube действительно непрозрачен, — сказала Эвелин Доук, доцент юридического факультета Стэнфорда, изучающая модерацию контента. — Мне гораздо интереснее бросаться камнями снаружи. Это тяжело, но это не значит, что они не несут ответственности».
В частных беседах сотрудники YouTube, как и коллеги из Facebook*, жаловались, что на них возложили всю ответственность за крах демократических норм, вызванный кабельными новостями, неравенством и бог знает чем еще. Один давний руководитель YouTube прямо сказал: «Не вините зеркало». В Кремниевой долине было распространено мнение, что платформы лишь отражают то общество, которое ими пользуется.
Но YouTube отражал далеко не все, что происходило в обществе. И по мере того как регулирование затягивалось, отражал все меньше. Осенью 2021 года[307] видеохостинг запретил ложные заявления о любой вакцине и удалил рекламу из видеоматериалов, в которых отрицается реальность изменений климата. Некоторые хвалили эти действия; некоторые считали их чрезмерными. Другие задавали очевидный вопрос: почему так долго ждали?
При Байдене и демократах, которые задавали подобные вопросы, руководство YouTube начало сопротивляться. Воджицки написала статью[308], в которой сравнивала чрезмерно навязчивую онлайн-модерацию с цензурой в СССР, где жили ее бабушка и дедушка. Нил Мохан заявил, что YouTube увидел «новый тревожный импульс» в запросах правительства на удаление видеоматериалов по политическим причинам. Что касается ложных заявлений о COVID-19, писал он, то YouTube может агрессивно их атаковать, поскольку агентства здравоохранения официально дали такие рекомендации; но к другим темам видеохостинг должен подходить осторожно. «То, что для одного человека неверная информация, для другого зачастую является глубоко укоренившимся убеждением», — написал он у себя в блоге[309]. Мохан считал само собой разумеющимся, что любой человек имеет право транслировать свои глубоко укоренившиеся убеждения через СМИ.
Однако он был прав в том, что YouTube замечал тревожные тенденции. Официальные лица в России и Индии начали использовать термины «фейковые новости» и «экстремизм», чтобы требовать от YouTube удаления видеоматериалов, сделанных критиками режима и оппозиционерами, — по сути, так они заставляли компанию выбирать между заявленными ценностями и желанием быть везде. Этому примеру, скорее всего, последуют другие страны. В государствах, где не утихают конфликты и оспариваются выборы, YouTube, как и другие социальные сети, нанимает мало людей, понимающих язык и политическую обстановку.
Лидеры YouTube часто говорят, что их передовое программное обеспечение на основе искусственного интеллекта хотя и не совсем совершенное, но является единственной в мире системой, способной справиться с чудовищным объемом данных. Это представляется как неизбежность, но это был выбор. Когда-то YouTube вывел на передний край своих менеджеров-кулхантеров, а также партнеров, в том числе отдел новостей Арабской весны Storyful, и вменил им в обязанность проверять, верифицировать и осмысливать информационный поток. «Мы продолжали пробовать что-то новое, и этому способствовала культура YouTube», — вспоминал Стив Гроув, бывший глава отдела новостей и политики. Многие из этих экспериментов YouTube решил прекратить. Вместо этого он предпочел стремиться к масштабированию. Такой компромисс, каким бы ущербным он ни был, помогал людям держаться в стороне от одной из самых больших проблем человечества — создания общего набора всеми признаваемых фактов и истин. «Дезинформация в Интернете остается угрозой демократии», — сказал Гроув, который покинул Google и стал государственным чиновником в Миннесоте. Чтобы устранить эту угрозу, добавил он, «нужно, чтобы ключевую роль всегда играло кураторство в его различных формах».