"Нам нужно что-то сделать, чтобы остановить эти разговоры и не дать им развиваться так быстро, как они развиваются", - пишут они.
Этот аргумент приводился и раньше, и его игнорировали, но широкие круги руководства Facebook были взбудоражены приближающимися выборами. В электронном письме своему коллеге из отдела политики Facebook Розен заявил, что Facebook необходимо "немного притормозить" в работе с группами. "Некоторым из крупнейших гражданских групп буквально пару недель от роду - представьте, как быстро они вырастут в октябре или ноябре, прежде чем мы успеем их охватить", - предупредил Розен.
В знак молчаливого признания того, что существующий надзор Facebook за группами не функционирует, Сагник Гош и другие инженеры Civic были призваны создать инструменты, которые могли бы надежно выводить проблемный контент групп на человеческий обзор или назначать автоматические удары администраторам. Все это не было чем-то революционным, но в последние месяцы выборов Розен уделял приоритетное внимание работе с группами, получившими широкую известность. Того же нельзя было сказать о генеральном директоре компании.
По иронии судьбы, как раз в тот момент, когда топ-менеджеры Facebook осознали токсичность групп, платформа удалила одну из них, в которой состоял Цукерберг. Группа была быстро восстановлена, но не раньше, чем Цукерберг начал внутреннюю кампанию против чрезмерного влияния социальных медиа. Приказав создать команду, которая будет заниматься предотвращением неправомерных удалений контента, Цукерберг потребовал от старших сотрудников регулярных брифингов о ходе работы. Он также предложил, чтобы вместо жесткого соблюдения правил платформы в отношении контента в группах, Facebook больше полагался на чувства пользователей в них. В ответ на это один из сотрудников предложил полностью освободить частные группы от за "низкоуровневый язык ненависти".
Вряд ли это была благоприятная обстановка для исправления того, что даже топ-менеджеры Facebook признавали вопиющей проблемой. Когда один из инженеров предложил Facebook снизить количество ударов, необходимых для удаления группы, с пяти до трех, глава отдела ленты новостей Джон Хегеман ответил, что, по его мнению, идея здравая, но настолько проигрышная, что ее даже не стоит предлагать. По его словам, руководство уже отклоняло подобные предложения, и "маловероятно", что они захотят снова обсуждать этот вопрос.
Несмотря на несговорчивость генерального директора, к сентябрю компания внесла несколько основных изменений, одобренных Цукербергом. Компания прекратила активное продвижение нерекомендованных групп в ленте новостей и, наконец, установила некоторые ограничения на "массовые приглашения". Она согласилась временно прекратить рекомендовать все группы, посвященные гражданскому обществу и здравоохранению, и ввела трехнедельный период ожидания, прежде чем вновь созданные группы по любой тематике смогут быть рекомендованы пользователям Facebook.
Наконец, команда внесла свой вклад в арсенал вмешательств Civic Integrity "Разбей стекло". Если бы в день выборов все пошло наперекосяк, компания могла бы включить рубильник и заставить администраторов групп с историей нарушения правил Facebook вручную утверждать все посты участников. Такое изменение одновременно замедлит работу групп в целом и заставит администраторов нести ответственность за одобренный ими контент.
Вторая часть работы группы Groups Task Force была направлена на то, чтобы наконец разобраться с некоторыми из худших групп на сайте. Чтобы получить разрешение на их удаление, руководитель группы начал ежедневно отправлять Розену и другим топ-менеджерам анализ активности в группах вместе с образцами их худшего контента.
Все это вызывало сильный ужас - люди призывали к линчеванию и гражданской войне. Одна группа была наполнена "восторженными призывами к насилию каждый день". Другая группа утверждала, что ее создали патриоты, поддерживающие Трампа, но на самом деле ею управляли "финансово мотивированные албанцы", ежедневно направлявшие миллион просмотров на фальшивые новости и другой провокационный контент.
Комментарии часто были хуже самих постов, и даже это было сделано специально. Содержание постов было зажигательным, но не достигало границ, установленных Facebook для удаления. Однако оно было достаточно плохим, чтобы вызвать гнев пользователей - классическая "приманка для ненависти". Администраторы были профессионалами, и они понимали слабые места платформы не хуже, чем Сивик. В ленте новостей гнев поднимался, как воздушный шар, и такие комментарии могли вывести группу в лидеры.