Руководители YouTube проигнорировали предупреждения, позволяющие распространять ядовитые видео

Год назад Сьюзен Войчицки была на сцене, чтобы защитить YouTube. Ее компания, которую месяцами избивали за разжигание лжи в Интернете, взбунтовалась от очередного всплеска, связанного с видео теории заговора о стрельбе в старшей школе во Флориде, что показало, что жертвы были «актерами кризиса».

Войчицки, главный исполнительный директор YouTube, является неохотным публичным послом, но она была в Остине на конференции Southwest, чтобы обнародовать решение, которое, как она надеялась, поможет подавить теории заговора: крошечное текстовое поле с таких сайтов, как Википедия, которое будет размещено ниже видео это ставит под сомнение устоявшиеся факты, такие как посадка на Луну и связь зрителей с правдой.

По оценкам медиа-гиганта Войчицкого, склонного к обгону телевидения, объем продаж превышает 16 миллиардов долларов в год. Но в тот день Войчицки сравнила свой видео-сайт с другим учреждением. «Мы действительно больше похожи на библиотеку», - сказала она, подчеркивая привычную позицию защитника свободы слова. «Всегда были противоречия, если вы оглянетесь назад на библиотеки».

С тех пор, как Войцицкий вышел на сцену, на платформе появились известные теории заговора, в том числе те, что касались прививок детям; другая связь Хиллари Клинтон с сатанинским культом - вызвала гнев законодателей, стремящихся регулировать технологические компании. И год спустя YouTube еще больше ассоциируется с более темными частями сети.

Загадка заключается не только в том, что на YouTube размещены видеоролики с вопросами о посадке на Луну или об эффективности вакцин. Огромная «библиотека», создаваемая пользователями с небольшим редакторским надзором, неизбежно будет не соответствовать действительности. Вместо этого проблема YouTube заключается в том, что он позволяет глупости процветать. И в некоторых случаях, благодаря своей мощной системе искусственного интеллекта, он даже обеспечивает топливо, которое позволяет ему распространяться.

Войчицки и ее заместители знают это. В последние годы множество людей в YouTube и Google, его владельце, выражали обеспокоенность по поводу массы ложного, зажигательного и ядовитого контента, который обнаружил и распространил крупнейший в мире видеосайт. Один сотрудник хотел пометить тревожные видео, которые не соответствовали правилам ненавистнических высказываний, и перестать рекомендовать их зрителям. Другой хотел отслеживать эти видео в электронной таблице, чтобы наметить их популярность. Третий, раздраженный распространением «альт-правых» видеоблогеров, создал внутреннюю вертикаль, которая показала, насколько они популярны. Каждый раз они получали один и тот же базовый ответ: не раскачивай лодку.

Компания потратила годы, преследуя одну бизнес-цель над другими: «Вовлеченность», мера просмотров, затраченного времени и взаимодействия с онлайн-видео. Беседы с более чем двадцатью людьми, которые работают на YouTube или недавно покинули его, показывают, что корпоративное руководство не может или не желает принимать меры по этим внутренним тревогам из-за боязни регулирования.

Войчицки «никогда не положит пальцы на весы», - сказал один человек, работавший на нее. «По ее мнению,« моя работа - управлять компанией, а не заниматься этим ». Этот человек, как и другие, кто разговаривал с Bloomberg News, попросил не называть его имени из-за опасения мести.

YouTube отклонил запросы Bloomberg News пообщаться с Войцицки, другими руководителями, руководством Google и советом Alphabet Inc. , его материнской компании. На прошлой неделе Нил Мохан, его директор по продукту, заявил The New York Times, что компания «добилась больших успехов» в решении своих вопросов с рекомендациями и радикальным содержанием.

Представительница YouTube оспаривала мнение, что Войчицки невнимателен к этим вопросам и что компания отдает предпочтение участию превыше всего. Вместо этого пресс-секретарь сообщила, что последние два года компания сосредоточилась на поиске решений проблем с контентом. С 2017 года YouTube рекомендует клипы на основе показателя «ответственность», который включает в себя данные опросов об удовлетворенности, которые он показывает после видео. YouTube отказался описывать это более подробно, но сказал, что каждую неделю он получает «миллионы» ответов на опрос.

«Нашей главной задачей было решение некоторых из самых сложных проблем с платформой», - заявила пресс-секретарь в заявлении по электронной почте. «Мы предприняли ряд важных шагов, в том числе обновили нашу систему рекомендаций, чтобы предотвратить распространение вредоносной дезинформации, улучшили работу с новостями на YouTube, довели количество людей, сосредоточенных на проблемах контента в Google, до 10000, инвестировали в машинное обучение, чтобы быть в состоянии быстрее находить и удалять вредоносные материалы, а также просматривать и обновлять наши политики - только за 2018 год мы сделали более 30 обновлений политики. И это не конец: ответственность остается нашим приоритетом номер один ».

В ответ на критику в отношении приоритета роста над безопасностью, Facebook Inc. предложила кардинальное изменение в своем основном продукте. YouTube все еще пытается объяснить любое новое корпоративное видение общественности и инвесторам, а иногда и своим сотрудникам. Пять высокопоставленных сотрудников, которые покинули YouTube и Google в последние два года в частном порядке, указали на неспособность платформы укротить экстремальные, тревожные видео как причину своего ухода. В Google неспособность YouTube решить свои проблемы остается главной проблемой. Акции Google подешевели на утренних торгах в Нью-Йорке во вторник, оставив их на 15 процентов в этом году. Акции Facebook подскочили более чем на 30 процентов в 2019 году, после того, как их забили в прошлом году.

Инерция YouTube снова прояснилась после того, как смертельная вспышка кори привлекла внимание общественности к заговорам о прививках в социальных сетях несколько недель назад. Новые данные лондонской фирмы Moonshot CVE, занимающейся экстремизмом, показали, что менее двадцати каналов YouTube, распространяющих эту ложь, охватили более 170 миллионов зрителей, многим из которых тогда были рекомендованы другие видеоролики, наполненные теориями заговора.

Слабая реакция компании на откровенные видеоролики, предназначенные для детей, вызвала критику со стороны самой технологической индустрии. Патрик Коупленд, бывший директор Google, который ушел в 2016 году, недавно опубликовал обвинительное обвинение своей старой компании в LinkedIn. Во время просмотра YouTube дочери Копленда рекомендовался клип, в котором были изображены как персонаж Белоснежки, нарисованный с преувеличенными сексуальными чертами, так и лошадь, вовлеченная в половой акт. «Большинство компаний увольняют кого-то за просмотр этого видео на работе», - написал он. «Невероятно!». Коупленд, который провел десятилетие в Google, решил заблокировать домен YouTube.

Мика Шаффер присоединился к YouTube в 2006 году, за девять месяцев до того, как он был приобретен Google, и задолго до того, как он стал частью культурного небосвода. На него была возложена задача по написанию политик для свободного сайта. Тогда YouTube был нацелен на то, чтобы убедить людей, почему они должны смотреть видео от любителей и загружать свои собственные.

Несколько лет спустя, когда он покинул YouTube, сайт все еще оставался убыточным и широко известен как легкомыслие (клип Дэвида, бессвязного семилетнего подростка, которого одурманили после поездки к стоматологу, был вторым по популярности просмотром видео в этом году .) Но даже тогда были проблемы с вредоносным контентом. Примерно в это же время YouTube заметил всплеск в видео, восхваляющий анорексию. В ответ штатные модераторы начали яростно расчесывать клипы, чтобы установить возрастные ограничения, вырезать их из рекомендаций или полностью их снять. Они «угрожали здоровью наших пользователей», - вспоминает Шаффер.

Ему недавно напомнили об этом эпизоде, когда на YouTube начали распространяться видеоролики с проповедью о так называемых опасностях прививок. Это, подумал он, было бы легко в прежние времена. «Мы бы строго ограничили их или запретили бы их полностью», - сказал Шаффер. «YouTube никогда не должен был допускать, чтобы опасные теории заговора стали такой доминирующей частью культуры платформы».

Он добавил, что где-то в последнее десятилетие YouTube уделял первостепенное внимание получению прибыли, а не безопасности своих пользователей. «Возможно, мы тратили деньги», - сказал он. «Но, по крайней мере, собаки на скейтбордах никогда никого не убивали»

Начиная примерно с 2009 года Google установил более жесткий контроль над YouTube. Это привело к появлению руководителей, таких как директор по продажам Роберт Кинкл, ранее работавший в Netflix, для разработки технической стратегии и бизнес-плана для поддержания своего бурного роста. В 2012 году YouTube пришел к выводу, что чем больше людей смотрят, тем больше рекламы он может показывать, и что рекомендация видео вместе с клипом или после его завершения - лучший способ следить за сайтом.

Таким образом, YouTube, которым руководил ветеран Google Салар Камангар, поставил перед всей компанией задачу по просмотру одного миллиарда часов в день и переписал механизм рекомендаций, чтобы максимально увеличить эту цель. Когда Войчицки вступил во владение, в 2014 году YouTube был на треть пути к цели, она вспомнила в книге инвестора Джона Доерра « Измерить, что имеет значение» в 2018 году .

«Они думали, что это сломает интернет! Но мне казалось, что такая ясная и измеримая цель будет заряжать людей энергией, и я подбодрил их », - сказал Войчицки Doerr. «Миллиард часов ежедневного просмотра дал нашим техническим специалистам Северную звезду». К октябрю 2016 года YouTube достиг своей цели.

Той же осенью три кодера Google опубликовали статью о том, как система рекомендаций YouTube работает с огромным количеством недавно загруженных материалов. Они рассказали, как нейронная сеть YouTube, система искусственного интеллекта, имитирующая человеческий мозг, может лучше предсказать, что зритель будет смотреть дальше. В исследовании отмечается, что ИИ может пытаться подавить «клик-приманку», видео, которые лгали на свою тему и теряли внимание зрителя.

Тем не менее, в нем не упоминаются наземные мины - дезинформация, политический экстремизм и отвратительное детское содержание - которые собрали миллионы и миллионы мнений и с тех пор потрясли компанию. Эти темы редко поднимались до выборов в США 2016 года. «Мы были в замешательстве, пытаясь достичь наших целей и стимулировать использование сайта», - сказал один бывший старший менеджер. «Я не знаю, действительно ли мы подняли наши головы».

YouTube не дает точного рецепта вирусности. Но в гонке до одного миллиарда часов появилась формула: Возмущение равняется вниманию. Это тот, который люди на политических окраинах легко эксплуатируют, сказал Бриттан Хеллер, сотрудник Карр-центра Гарвардского университета. «Они не знают, как работает алгоритм», - сказала она. «Но они знают, что чем более возмутительно содержание, тем больше просмотров».

Люди внутри YouTube знали об этой динамике. За эти годы было много мучительных дебатов о том, что делать с проблемными видео - теми, которые не нарушают его политику в отношении контента и поэтому остаются на сайте. Некоторые разработчики программного обеспечения назвали проблему «плохой вирусностью».

Йонатан Цангер (Yonatan Zunger), инженер по конфиденциальности в Google, напомнил о предложении, которое он сделал сотрудникам YouTube перед тем, как покинуть компанию в 2016 году. Он предложил третий уровень: видео, которым разрешено оставаться на YouTube, но потому, что они «близки к линии» », Будет исключен из рекомендаций. «Плохие актеры очень быстро понимают, где находятся яркие линии, и катаются на коньках как можно ближе к этим линиям», - сказал Цангер.

Его предложение, направленное руководителю YouTube, было отклонено. «Я могу с большой уверенностью сказать, что они были глубоко неправы», - сказал он.

Вместо того, чтобы обновлять свой механизм рекомендаций, YouTube удвоился. Нейронная сеть, описанная в исследовании 2016 года, вступила в силу в рекомендациях YouTube, начиная с 2015 года. Благодаря имеющимся мерам, она достигла своей цели - держать людей на YouTube.

«Это движок зависимости», - сказал Фрэнсис Ирвинг, ученый-компьютерщик, который критически написал о системе искусственного интеллекта YouTube.

Ирвинг сказал, что он поднял эти проблемы с персоналом YouTube. Они ответили с недоверием или признаком того, что у них нет стимулов изменить работу своего программного обеспечения, сказал он. «Это не катастрофический провальный алгоритм», - добавил Ирвинг. «Это хорошо работает для многих людей и приносит много денег».

Пол Ковингтон, старший инженер Google, который был соавтором исследования механизма рекомендаций 2016 года, представил результаты на конференции в марте следующего года. Его спросили, как инженеры решают, к какому результату следует стремиться с помощью своих алгоритмов. «Это своего рода решение о продукте», - сказал Ковингтон на конференции, имея в виду отдельное подразделение YouTube. «Продукт говорит нам, что мы хотим увеличить этот показатель, а затем мы идем и увеличиваем его. Так что на самом деле это не зависит от нас ». Ковингтон не ответил на электронное письмо с просьбой дать комментарий.

Представительница YouTube заявила, что начиная с конца 2016 года компания добавила меру «социальной ответственности» в свой алгоритм рекомендаций. Эти входные данные включают в себя, сколько раз люди делятся и нажимают кнопки «нравится» и «не нравится» на видео. Но YouTube отказался поделиться более подробной информацией о метрике или ее влиянии.

Через три дня после избрания Дональда Трампа Войчицки собрала весь свой персонал на их еженедельную встречу. Один сотрудник громко переживал из-за связанных с выборами видео, которые смотрели больше всего. В них доминировали такие издатели, как Breitbart News и Infowars, которые были известны своим возмущением и провокацией. В Брейтбарте был популярный раздел «Черное преступление». Этот эпизод, по словам присутствовавшего, вызвал широкую беседу, но никаких немедленных политических указов. Пресс-секретарь отказалась комментировать конкретный случай, но сказала, что «в целом экстремальный контент плохо работает на платформе».

В то время руководство YouTube было сосредоточено на совершенно другом кризисе. Его «создатели», которые загружают видео на сайт, были расстроены. Некоторые ворчали о зарплате, другие открыто угрожали перебить конкурирующие сайты.

Войчицки и ее лейтенанты составили план. YouTube назвал это Project Bean или, иногда, «Boil The Ocean», чтобы указать на масштабность задачи. (Иногда они называли это BTO3 - третья драматическая перестройка для YouTube после инициатив по расширению мобильного просмотра и подписок.) По словам трех бывших высокопоставленных сотрудников, которые работали над этим, планировалось переписать всю бизнес-модель YouTube.

Он основывался на способе платить создателям, который не основан на рекламе их видео. Вместо этого YouTube будет платить за участие - сколько зрителей смотрят видео и сколько времени они смотрят. Специальный алгоритм будет объединять входящие денежные средства, а затем передавать их создателям, даже если на их видео не показывается реклама. Идея заключалась в том, чтобы вознаградить видео-звезд, укоренившихся системой, таких как те, кто снимает половое воспитание, и музыкальные клипы, которые рекламодатели-шатры сочли слишком рискованными для одобрения.

Программисты на YouTube трудились не менее года, чтобы сделать проект работоспособным. Но руководители компании не смогли оценить, как проект может иметь негативные последствия: оплата на основе вовлеченности рискует усугубить проблему «плохой вирусности», поскольку она могла бы вознаградить видео, которое приобрело популярность, достигнутую возмущением. Один из участников сказал, что алгоритмы распределения платежей строго охраняются. Если бы это вступило в силу, то, по словам этого человека, вполне вероятно, что кто-то вроде Алекса Джонса - создателя Infowars и теоретика заговора с огромным количеством подписчиков на сайте, до того, как YouTube загрузил его в августе прошлого года, - внезапно стал бы одним из самых высокооплачиваемых YouTube. звезды.

Войчицки представил Project Bean руководящей команде Google в октябре 2017 года. К тому времени YouTube и другие сайты социальных сетей столкнулись с первой волной осуждения за создание «фильтрующих пузырей» - направляя людей к уже существующим убеждениям, а затем подпитывая их еще больше. Босс Войчицки, Сундар Пичаи, отклонил предложение YouTube, потому что, по его мнению, это может усугубить проблему с пузырем на фильтре, считают два человека, знакомые с обменом. Другой человек, знакомый с ситуацией, сказал, что усилия были отложены из-за опасений, что они чрезмерно усложнят способ, которым платят создателям.

YouTube отказался комментировать проект.

В ноябре 2017 года YouTube, наконец, предпринял решительные действия против каналов, распространяющих пагубные видеоролики, отсекая тысячи людей от получения рекламы или от сайта практически в одночасье. Создатели назвали его «The Purge». Компания столкнулась с продолжающимся бойкотом рекламодателя, но реальным катализатором стал взрыв в средствах массовой информации по поводу тревожных видео, нацеленных на детей. Хуже всего был канал «Toy Freaks», где отец публиковал видео со своими двумя дочерьми, иногда показывая рвоту или сильную боль. YouTube удалил Toy Freaks и быстро дистанцировался от него.

Но канал не был в тени. По сообщениям, с более чем восемью миллионами подписчиков он был в числе 100 самых популярных на сайте. По словам одного из бывших сотрудников, подобные типы тревожных видеороликов были «секретом» внутри компании, что часто оправдывало их существование аргументами о свободе слова.

YouTube также боролся с другими дебатами вокруг его программирования для детей. Перед запуском специального приложения для несовершеннолетних, YouTube Kids, несколько человек выступали за то, чтобы компания предлагала только специально подобранные видео в сервисе, чтобы избежать каких-либо сбоев в содержании. Эти аргументы были потеряны, и приложение с тех пор выбрало видео алгоритмически.

Однако YouTube вскоре решил свои проблемы, связанные с новостным контентом. В июле прошлого года YouTube объявил, что будет добавлять ссылки на результаты Новостей Google в поиске YouTube, и начал размещать «авторитетные» источники из известных СМИ в своих разделах новостей. YouTube также предоставил грант в 25 миллионов долларов новостным организациям, снимающим видео. В последнем квартале 2018 года YouTube заявил, что удалил более 8,8 миллионов каналов за нарушение его правил. Эти меры призваны помочь скрыть тревожные видеоролики на своем сайте, и теперь компания указывает на эти усилия в знак своего внимания к проблемам с контентом.

Тем не менее, в прошлом YouTube активно отговаривал сотрудников от активных действий. Адвокаты устно советовали сотрудникам, не назначенным для модерации, избегать самостоятельного поиска сомнительных видеороликов, таких как вирусная ложь о судье Верховного суда Рут Бадер Гинзбург, по словам одного бывшего руководителя, расстроенного этой практикой. Человек сказал, что директива никогда не была написана в письменном виде, но сообщение было ясным: если YouTube знал, что эти видео существуют, его юридическое обоснование ухудшалось. Федеральный закон защищает YouTube и других технологических гигантов от ответственности за контент на своих сайтах, однако компании рискуют потерять защиту этого закона, если они будут слишком активно играть редакционную роль.

Некоторые сотрудники все равно искали эти видео. По словам двух человек, знакомых с этим, один знаменательный момент произошел в начале 2018 года. Сотрудник решил создать новую «вертикаль» YouTube - категорию, которую компания использует для группировки своих видеороликов. Этот человек собрал видео под воображаемой вертикалью для «альт-право», политического ансамбля, слабо связанного с Трампом. Исходя из вовлеченности, гипотетическая категория «альт-право» была названа музыкой, спортом и играми в качестве самых популярных каналов на YouTube - попытка показать, насколько эти видео важны для бизнеса YouTube. Человек, знакомый с исполнительной командой, сказал, что они не помнят, чтобы увидеть этот эксперимент.

Тем не менее, поскольку алгоритмы компании продолжали вызывать головные боли, появились ножи.

Некоторые бывшие сотрудники винят Войцицкого, который унаследовал бизнес, ориентированный на получение большего количества просмотров, и не смог существенно изменить свое направление. Другие обвиняют Кинкл, бизнес-руководителя YouTube, который следит за отношениями с создателями и решениями по модерации контента. В то время как Войчицки и Нил Мохан, глава продукта YouTube, выступили с несколькими публичными речами по вопросам, связанным с контентом, Кинкл высказался менее активно. Тем не менее, исполнительный директор сделал другие публичные шаги, которые некоторые в Google считают саморекламой. В августе прошлого года, через неделю после ужасного сообщения о распространенности экстремистских видеороликов на YouTube, он смоделировал костюм в рекламе люксового бренда Brioni. По словам одного из присутствующих, эта реклама, выпущенная на фоне проблем YouTube, вызвала обеспокоенность по поводу приоритетов Kyncl среди нескольких сотрудников Google. Представители компании и Kyncl от комментариев отказались.

В январе этого года YouTube последовал совету бывшего сотрудника Google Зангера и создал новый уровень для проблемных видео. Так называемый «пограничный контент», который не нарушает условия обслуживания, может оставаться на сайте, но больше не будет рекомендован зрителям. Месяц спустя, после прессы о заговорах о прививках, YouTube заявил, что некоторые из этих видео были помещены в категорию. В феврале Google также выпустил длинный документ, в котором подробно описывается, как он решает проблему дезинформации в своих сервисах, включая YouTube. «Основная цель наших систем рекомендаций сегодня - создать надежный и позитивный опыт для наших пользователей», - говорится в документе. «Цель всей компании YouTube обозначена не просто как« Рост », а как« Ответственный рост ».»

Но YouTube, кажется, применяет исправление только время от времени. Одно из самых популярных видео iHealthTube.com не о вакцинах. Это семиминутный клип под названием: «Каждый рак можно вылечить за несколько недель». Хотя YouTube заявил, что больше не рекомендует видео для зрителей, на странице нет записи в Википедии. Это было просмотрено более 7 миллионов раз.