В силу сложившихся обстоятельств команда At Risk Country оказалась в несколько стесненных обстоятельствах. Чем больше платформа инвестировала в языковой ИИ для смягчения социальных проблем, тем больше увеличивался разрыв между рынками, где такие классификаторы существовали, и теми, где их не было. " Большинство наших систем контроля честности менее эффективны за пределами США", - писал Тони Лич, глава команды ARC, в конце 2020 года, подводя итоги своей работы. "Классификаторов либо не существует, либо они работают хуже", - писал он, - и "нам не хватает человеческой поддержки".
Команда Лича стремилась когда-нибудь создать классификаторы и вмешательства американского качества для стран, подверженных риску насилия в обществе, но компания не собиралась делать это в ближайшее время. В таких странах, как Мьянма и Йемен, Facebook все еще не хватало даже элементарных классификаторов для выявления подстрекательства к насилию и восхваления ненавистных деятелей, не говоря уже о возможности целенаправленного вмешательства в кризисную ситуацию.
Во время этнорегиональной гражданской войны в Эфиопии у Facebook не было классификатора языка ненависти ни для одного из основных языков страны. Количество проверок фактов на одного пользователя там было на 3 % меньше, чем в США, и даже не позволяло людям сообщать о нарушении содержания на языке оромо, языке самого густонаселенного региона Эфиопии.
"Мы в значительной степени слепы к проблемам на нашем сайте", - говорится в презентации Лича, посвященной Эфиопии.
Сотрудники Facebook выпустили множество внутренних работ, подобных этой: заявления о том, что компания запуталась в себе и не в состоянии обеспечить даже элементарное устранение потенциально ужасных проблем. События на платформе вполне могли привести к гибели людей и почти наверняка привели, утверждают правозащитные группы, ведущие мониторинг в Эфиопии. Меарег Амаре, преподаватель университета в Аддис-Абебе, был убит возле своего дома через месяц после того, как вирусным стал пост, набравший 35 000 лайков, в котором был указан его домашний адрес и содержался призыв к нападению на него. Facebook не удалил его. Теперь его семья судится с компанией.
Как это часто бывает, компания предпочла рост качеству. Усилия по расширению сервиса в более бедных и изолированных местах не заставили себя ждать, пока защита пользователей догонит их, и даже в странах с "ужасным" риском массовых злодеяний команде "Страны риска" требовалось разрешение на действия, которые вредили взаимодействию.
Обещание компании "бороться за свободу слова во всем мире", как выразился Цукерберг в своей речи в Джорджтауне, также имело свои пределы. В начале 2020 года, пытаясь заставить Facebook выполнить приказ о цензуре "антигосударственных" постов, правительство Вьетнама заблокировало локальные серверы компании в стране. Это не привело к отключению сервисов Facebook, а лишь сделало их работу медленной и прерывистой.
Facebook держался семь недель. Затем она подчинилась требованиям правительства и удалила аккаунты активистов, которые в итоге были приговорены к длительным тюремным срокам.
Компания Facebook заявила агентству Reuters, которое рассказало о капитуляции компании, что по-прежнему считает свободу слова одним из основных прав. Как и пользование Facebook. "Мы приняли эти меры, чтобы гарантировать, что наши сервисы останутся доступными и удобными для миллионов людей во Вьетнаме, которые полагаются на них каждый день", - говорится в заявлении компании.
-
Несмотря на ограничения, даже желчно настроенные сотрудники смогли увидеть ценность своей работы, когда были закрыты сети ненависти, пересмотрены политики и внесены изменения в рейтинги. Масштаб компании усиливал их достижения. Один день, проведенный за обновлением внутреннего списка арабоязычных анти-ЛГБТК-ругательств Facebook, оказал большее влияние на общественный дискурс, чем могла мечтать местная некоммерческая организация.
Но выполнение этой работы требовало принятия ограничений, связанных с бизнесом. Возможно, наибольший диссонанс между стремлениями и реальностью испытывали сотрудники, работавшие в Индии, которая одновременно представляла собой "первый уровень" риска насилия в обществе, а также имела правительство, которого Facebook опасалась.
Документы и стенограммы внутренних встреч американских сотрудников компании показывают, как сотрудники пытаются объяснить, почему Facebook не следует своему обычному плану действий при борьбе с разжиганием ненависти, координацией насилия и правительственными манипуляциями в Индии. Сотрудники в Менло-Парке обсуждали продвижение BJP лжи о "Любовном джихаде". Они встречались с представителями правозащитных организаций, которые документировали насилие, совершаемое мстителями, защищающими коров. Они отслеживали усилия индийского правительства и его союзников по манипулированию платформой через сети аккаунтов. Однако ничего не изменилось.