По мере продолжения беспорядков появились новые проблемы с модерацией. Группы Facebook, этот инструмент закрытых толп, стали фактической инфраструктурой для организации #StopTheSteal. Несколько групп, появившихся сразу после ночи выборов, очень быстро разрослись: одна из них за двадцать четыре часа набрала более трехсот тысяч участников, и еще более миллиона ждали возможности присоединиться. 109. Facebook ввел целый ряд мер по борьбе с коррупцией: посты в группах, которые часто нарушали правила, теперь требовали одобрения администратора группы; пользователи, желающие поделиться контентом, связанным с выборами, должны были нажимать на уведомления, указывающие на авторитетные источники информации; посты, классифицированные как имеющие высокий потенциал подстрекательства к насилию, были сокращены в ленте; контент из групп, не имеющих права на рекомендации, был сокращен в ленте. 110 Компания также начала удалять некоторые крупные группы #StopTheSteal, выступающие за насильственное возмездие, например, за повешение предполагаемых воров (сотрудников избирательных комиссий) за государственную измену. 111 Внутреннее исследование Facebook, просочившееся в 2021 году, документально подтвердило эту проблему: "Движение Stop the Steal распространялось небольшой группой лиц, координировавших рассылку тысяч приглашений в группы Stop the Steal на Facebook" - форма взлома для роста - "часто с использованием нескольких аккаунтов для этого - что само по себе является нарушением условий обслуживания платформы", - говорится в одном из отчетов. 112 Однако компания приняла меры против лишь небольшой части этой деятельности. Бывшая сотрудница Фрэнсис Хауген опубликовала внутреннюю оценку последствий под названием "Остановить воровство и партию патриотов: Рост и смягчение последствий вредоносного движения", в котором подробно описаны ошибки Facebook: "Поскольку мы рассматривали каждую организацию по отдельности, а не как сплоченное движение, мы могли удалять отдельные группы и страницы только после того, как они превышали порог нарушений", - поясняется в отчете. "После Капитолийского восстания и волны акций "Штурм Капитолия" по всей стране мы поняли, что отдельные делегитимизирующие группы, страницы и лозунги действительно представляют собой сплоченное движение". 113
Еще один из документов Хаугена, ставших достоянием гласности, раскрывает внутренние метрики, на основе которых Facebook принял решение: количественные оценки процентного содержания ненависти, насилия, подстрекательства, оскорблений, белых супремацистских фраз, терминов милитаризованных общественных движений, терминов QAnon и содержания, делегитимизирующего выборы, в постах той или иной группы. "Growth hacking не всегда плох", - говорится в отчете об оценке последствий, где отмечается, что "демократическое движение, движение за права человека или рекламное движение могут использовать законные методы для быстрого роста своей аудитории. Однако, когда этот рост смешивается с сигналами вреда, которые мы описали выше, такой быстрый рост свидетельствует о распространении вреда и может указывать на скоординированный вред". 114
Неудивительно, что в отчете упоминается Али Александр. Как резюмирует BuzzFeed, "Александр, один из первых пропагандистов лозунга "Остановить кражу", "смог избежать обнаружения и принуждения благодаря тщательному подбору слов и использованию исчезающих историй" (функция эфемерного контента, при которой сообщения исчезают через определенный период времени). "Мы также наблюдали, как [Александр] официально организовывался с другими людьми для распространения термина ['Stop the Steal'], в том числе с другими пользователями, имеющими связи с ополченцами". 115
В удаленном ролике на Periscope Александер, который начал свою политическую карьеру, работая над президентской кампанией Джона Маккейна в 2008 году, рассказал о своем сотрудничестве с представителями GOP Энди Биггсом, Мо Бруксом и Полом Госаром. "Мы вчетвером придумали [способы] оказать максимальное давление на Конгресс во время голосования", - сказал он. Этот план был направлен на то, чтобы "изменить сердца и умы республиканцев, которые находятся в этом органе и слышат наш громкий рев снаружи". 116
Но даже если Facebook был более агрессивен в борьбе с #StopTheSteal, социальные сети начали децентрализовываться. Человеческие социальные сети, собранные с помощью алгоритмов "Люди, которых вы можете знать", рекомендательных алгоритмов и дружеских отношений в реальном мире так давно, просто воссоздали себя на других платформах, которые с меньшей вероятностью будут их модерировать. Действительно, когда Facebook удалил крупные группы #StopTheSteal, они вновь собрались в каналы на Telegram - платформе, которая в основном не модерируется, и даже снова появились на самом Facebook под другими именами (проблема модерации контента в Whac-A-Mole). 117