Группы стали такими ужасными благодаря сочетанию крайней запущенности и стероидного роста. Одна из самых больших уязвимостей продукта заключалась в том, что он позволял преданным пользователям практически в одиночку провоцировать вирусное развитие. Одинокий пользователь мог - и сделал это - отправить 400 000 приглашений в группы QAnon в течение шести месяцев. В сочетании со слабыми критериями Facebook для "вступления" в группу - все, что нужно было сделать пользователю, это взаимодействовать с одним из его постов в ленте новостей любым способом - это был готовящийся кошмар, особенно в преддверии выборов, уже утонувших в теориях заговора.
Еще в 2017 году сотрудники Integrity зафиксировали, как умеренно проблемные "шлюзовые" группы служили площадкой для вербовки злобных групп, которые организовывали кампании по преследованию неугодных им пользователей. Такие группы проверяли пользователей на предмет возможных стукачей, иногда требуя от пользователей использовать язык ненависти в качестве критерия для вступления. (Это было в меру эффективно: не раз меня не пускали в группу, требуя, чтобы я использовал слово на букву "Н").
Два года спустя команда Integrity, занимающаяся группами, попыталась обуздать продукт, подстегнутая существованием группы ненависти в Шри-Ланке, численность которой за три дня превысила 300 000 человек, и успехом активистов, выступающих против вакцинации, возмущенных попыткой остановить вспышку кори в то время. Назвав свою инициативу "Охота на китов приглашений", сотрудники отделов целостности групп и стран риска предложили компании резко сократить существующий лимит на приглашения в группы, который на тот момент составлял одну тысячу на аккаунт в час.
Завязался знакомый танец. Вкратце: у команды Groups Product были цели по росту, которые нужно было достичь, и предложение было отклонено.
По несчастливому совпадению, внимание к тому, как можно злоупотреблять инструментами вирусного роста групп, появилось как раз в тот момент, когда Цукерберг публично переориентировал платформу Facebook на более приватные формы общения и особенно на группы.
Продукт будет "сердцем приложения", - сказал мне Цукерберг в интервью, данном в апреле 2019 года, чтобы объявить об изменениях. Недавно вступив в группу, насчитывающую 96 000 членов и утверждающую, что больные раком должны отказаться от стандартных медицинских рекомендаций в пользу "естественных методов лечения", я спросил Цукерберга о безопасности. Генеральный директор обнадежил. "Если люди действительно ищут это сами, то хорошо, - сказал он. Но Facebook, конечно, не будет способствовать росту таких конспирологических сообществ. По словам Цукерберга, его решение о создании групп было отложено на шесть месяцев, поскольку Facebook "отдал приоритет многим из этих вопросов безопасности".
Несмотря на заверения Цукерберга, проблемы с группами оставались очевидными и хроническими. Электронные письма, позже переданные следователям Палаты представителей в рамках расследования Комитета от 6 января, показывают, что Самидх Чакрабарти, Гай Розен и Том Элисон, тогдашний вице-президент по инженерным вопросам, получили оценку того, что состояние групп в преддверии следующих президентских выборов было катастрофическим.
"Вредные гражданские группы растут быстрее, чем наши системы обеспечения целостности могут с ними справиться", - говорится в электронном письме, направленном мужчинам. "Мы все еще подвержены риску во время выборов в США 2020 года, поскольку эти группы разрастаются и ускользают от обнаружения".
Когда до выборов оставались считанные месяцы, Integrity сформировала "Целевую группу групп", чтобы заставить руководство компании пересмотреть свой подход. Трамп отказывался говорить, признает ли он результаты выборов, если проиграет Джо Байдену. Опасения по поводу беспорядков и даже насилия росли.
У целевой группы было две основные функции. Первая была посвящена теме "Рост злоупотребляющих групп" и предлагала меры по замедлению роста групп, по крайней мере, достаточно долго, чтобы дать команде время для устранения нарушений. Какова бы ни была нормальная терпимость Facebook к быстрому росту ужасных групп, ее следует снизить, по крайней мере, на данный момент, утверждали сотрудники. В презентации для руководства исследователи написали, что примерно "70 % из 100 самых активных гражданских групп США считаются нерекомендованными из-за таких проблем, как ненависть, дезинформация, запугивание и преследование".