Ранее Public Policy отказывалась принимать меры в отношении приманки для разжигания ненависти. Как можно было бы обвинить того, кто разместил новостную статью, в комментариях под ней? Но, учитывая приближающиеся выборы и общее состояние беспорядка, в котором оказалась страна, все стали немного более восприимчивыми, чем раньше. Размещение призывов к ненависти по-прежнему не являлось нарушением правил Facebook, но руководство согласилось с тем, что если Целевая группа по группам сможет собрать достаточно примеров официального неправильного поведения определенной группы, то они смогут закрыть ее. Команда сотрудников будет следить за известными проблемными группами, ждать, когда они переступят черту, а затем аргументировать, почему нарушения оправдывают нанесение удара по ним.
Можно утверждать, как это уже давно делала команда Facebook по публичной политике, что такая проверка отражает предвзятость. В качестве контраргумента можно сказать, что платформа уже была настроена на провал.
"Мы сильно переобещали в отношении нашей способности модерировать контент на платформе", - написал Розену один из специалистов по анализу данных в сентябре. "Мы нарушаем и будем продолжать нарушать наши недавние обещания".
В кои-то веки аргумент "лучше перебдеть, чем недобдеть" победил.
-
В течение нескольких месяцев было удалено четыреста групп, связанных с политикой, в ходе процесса, который, по собственному признанию команды, был сдержанным в плане "методологического величия". Но он оказал влияние: закрыл примерно 1 миллиард ежемесячных просмотров контента из токсичных групп.
Кроме того, компания пошла на попятную и в отношении политической рекламы, объявив в сентябре, что запретит ее на неделю до и после выборов. Если возникнут ложные заявления о фальсификации бюллетеней, Facebook меньше всего захочет брать деньги за их продвижение.
Компания также отказалась от своего нежелания маркировать речи политических деятелей. Основываясь на работе, ранее проделанной Харбатом, Facebook подготовил уведомления о политических постах, которые сначала направляют пользователей к внешним источникам фактической информации о голосовании, а затем объявляют о завершении выборов после подсчета бюллетеней.
В конце игры в Meaningful Social Interaction готовилось еще одно значительное изменение. Хотя сотрудники Civic сначала предупреждали, а затем документально подтвердили, что акцент MSI на комментариях и повторных публикациях поощряет гнев в политике, Facebook мало что сделал для решения этой проблемы за два с половиной года, прошедшие с тех пор. Но в сентябре компания неожиданно согласилась с давней рекомендацией Civic уменьшить вознаграждение за размещение контента, приводящего зрителей в ярость. Отныне алгоритм перестанет рассматривать эмодзи гнева как основание для усиления поста. Facebook также планирует перестать рассматривать комментарии с издевками как положительный сигнал распространения.
Это была большая победа для Civic и команды Integrity Ranking, хотя и с небольшим опозданием. Правильная перестройка рекомендательных систем News Feed для снижения вирусности "контента, вызывающего гнев", заняла бы недели, а этого времени у компании уже не было. А пока Facebook навязывает быструю и грязную версию, просто изменяя результаты работы системы.
" Этот запуск временный, пока не будут обновлены основные модели", - отметил автор сентябрьского документа, описывающего последствия изменения рейтинга. Но даже такое небрежное решение привело бы к значительному сокращению дезинформации и подстрекательства к насилию. (Позднее Facebook будет утверждать, что это изменение не оказало существенного влияния, хотя компания и сохранила его в силе).
Внезапный шквал одобрений на поздних стадиях для давно отложенных проектов по обеспечению честности оправдывает ощущение, что где-то далеко над Civic люди в корпоративной иерархии начинают нервничать. Но именно меры, которые, как надеялись в Facebook, не потребуются, наиболее наглядно продемонстрировали, что компания готовится к возможной аварийной посадке на выборах.
Несмотря на то, что компания начала работу над созданием мероприятий Break the Glass в США, работа была направлена на менее развитые страны. Многие из них, такие как агрессивное ограничение повторного обмена сообщениями, воздержание от рекомендации вновь созданных групп и наказание за распространение пользователей, неоднократно размещавших ложную информацию, начинались как предложения по постоянному улучшению целостности всей платформы, которые были отклонены на основании того, что они снижали вовлеченность или считались неприемлемыми командой общественной политики, ориентированной на США. Для крупных рынков эти предложения оказались в конце пути.