Самые заметные из новых документов касались не столько проблем на платформах Meta, сколько работы компании над целостностью. В течение четырех лет Facebook принимала решения, основываясь на том, что Гай Розен назвал " обычным напряжением между ростом и целостностью". Независимо от того, какова была цель - борьба с разжиганием ненависти, замедление распространения дезинформации или снижение рейтинга неоригинального контента, - тесты регулярно показывали, что изменения в рейтинге честности происходили за счет роста. Сотрудники, ориентированные на честность, неизменно утверждали, что их предложения по очистке платформы принесут пользу Facebook в долгосрочной перспективе, в то время как их коллеги, ориентированные на рост, указывали на краткосрочные экспериментальные данные и насмехались.
В ответ на это расстроенные ученые разработали необычный эксперимент , отслеживая совокупный эффект от работы над целостностью в сравнении с контрольной группой, известной как "минимальное удержание целостности". К концу 2021 года эксперимент дал достаточно данных, чтобы ученые смогли сформулировать четкий вывод. Facebook уже много лет искажала способы измерения эффекта добросовестной работы.
Все изменения в рейтинге честности, которые они внесли, действительно повлияли на посещаемость Facebook, как и предполагали скептики, но только на шесть месяцев. После этого и еще долгое время после того, как Facebook отменил свои эксперименты, ущерб, нанесенный метрикам вовлеченности компании, уменьшился до статистической незначительности. Примерно через год работа над честностью начала приносить скромный, но статистически значимый прирост пользователей, особенно среди молодых и нечастых пользователей. Сетевые эффекты не позволили подсчитать истинный размер прироста, но, скорее всего, он был больше той доли процента, которую смогли измерить специалисты по обработке данных.
"Чтобы создать идеальную экосистему Facebook - то есть экосистему с высокой степенью вовлеченности и высокой целостностью - мы должны инвестировать в большее (и более интенсивное) количество продуктов целостности", - говорится в заключении.
Первоначальная реакция на исследование была скептической. Поскольку в записке признавалось, что это "серьезные последствия для Facebook", руководители поручили нескольким старшим специалистам по обработке данных проверить работу на предмет вычислительных ошибок и сбоев в системе, которые могли испортить результаты.
Но успехи были реальными. Работа над целостностью новостной ленты в течение многих лет способствовала росту, чего компания не понимала.
Хорошая новость этого открытия заключалась в том, что Facebook, вероятно, сможет повысить вовлеченность, инвестируя в более сильное ранжирование целостности новостной ленты. Плохая новость заключалась в том, что, блокируя или затушевывая прошлую работу по обеспечению честности, компания, вероятно, загрязняла свою платформу в ущерб как пользователям, так и себе.
Смущающие последствия в течение нескольких месяцев не давали разрешения на распространение исследования. В конце концов, руководители одобрили его распространение среди сотрудников Integrity, но заблокировали его более широкое распространение, поскольку, по словам двух сотрудников, знакомых с этим вопросом, выводы были сочтены слишком конфронтационными. Усилия по количественному определению преимуществ роста от работы над рейтингом честности продолжались без лишнего шума, и в дополнительном исследовании было отмечено, что он увеличил ежедневное использование новых пользователей на 0,9 процента, что является огромной победой по самому святому показателю Facebook. Люди, знакомые с этой работой, надеются, что в конечном итоге она побудит Facebook принять более строгие меры по обеспечению честности. В конце концов, Цукерберг не из тех, кто оставляет на произвол судьбы доходы от использования.