"Правило № 1, DAP священен", - провозглашалось на презентации.
Компания старалась не трогать другие показатели, такие как количество зарегистрированных сессий, проведенное время и количество оригинальных постов. Но когда речь заходила о показателях дезинформации или других вредных факторах, на которые Джин обращала внимание, еще не было защитных перил, которые не позволяли бы командам, ориентированным на рост, изменять Facebook таким образом, чтобы это вредило показателям целостности, и даже не предупреждали бы об этом. Потребовалось до второй половины 2019 года, чтобы кто-то создал приборную панель, которая могла бы обнаружить, когда другие продуктовые команды подрывают работу сотрудников, занимающихся вопросами целостности.
Как только новая система заработала, команда Facebook по обеспечению честности поняла, что у нее есть проблема. Изменения в платформе, ориентированные на рост, похоже, активно усугубляли проблемы честности. В служебной записке исследователя Civic отмечалось, что за год количество просмотров контента со страниц, на которых регулярно размещалась дезинформация, выросло на 17 %. Просмотры контента со страниц, которые нарушали стандарты сообщества Facebook не менее четырех раз за последние девяносто дней, выросли на 64 %.
После двух с половиной лет самоанализа мысль о том, что изменения в пользу роста иногда усугубляют проблемы целостности, не могла стать полной неожиданностью ни для кого в Facebook. Но никто не мог понять, насколько прямо противоположны эти две цели. По крайней мере с конца 2018 года, а почти наверняка и задолго до этого, коллеги Сивика в других подразделениях Facebook наращивали количество пользователей и получали бонусы, отдавая предпочтение контенту, с которым компания публично обещала бороться.
С приближением президентских праймериз 2020 года Сивик утверждал, что компании наконец-то нужно понять, как перестать стрелять себе в ногу.
"Необходимо провести важные беседы, - пишет исследователь, - чтобы определить, действительно ли Facebook считает, что выгода от дополнительного 1-процентного роста перевешивает вред от демонстрации пользователям на 10 процентов больше дезинформации".
С точки зрения Civic, ответ на этот вопрос был очевиден. Несмотря на усилия команды, просмотры контента страниц, неоднократно нарушавших правила Facebook, выросли с начала года на 23 %. В преддверии выборов 2020 года компания вряд ли могла позволить себе дальнейшее ослабление своей защиты.
"Необходимо держать удар", - написал исследователь в служебной записке. Отмена изменений в продуктах, ориентированных на рост и в наибольшей степени ответственных за это увеличение, была такой же срочной, как необходимость "поставить мешки с песком во время шторма".
Если в Civic полагали, что руководство Facebook будет потрясено открытием, что усилия компании, направленные на рост, усугубили проблемы с честностью и неподкупностью Facebook, то они ошиблись. Цукерберг не только враждебно относился к будущей работе по борьбе с ростом; он начал сомневаться, что некоторые из прошлых усилий компании по обеспечению честности были ошибочными.
Получив право накладывать вето не только на новые предложения по обеспечению целостности, но и на уже давно одобренные работы, команда Public Policy начала заявлять, что некоторые из них не соответствуют стандартам компании в отношении "легитимности". Пощадив Sharing, было решено полностью отказаться от понижения рейтинга контента, продвигаемого гиперактивными пользователями, который и так был снижен на 80 % при его принятии. (В конечном итоге его пощадили, но еще больше урезали).
" Мы не можем считать, что ссылки, которыми делились люди, которые много делились, плохие", - говорится в описании планов по отмене изменения. (На практике эффект от отмены Sparing Sharing, даже в ослабленном виде, был однозначным. Просмотры "идеологически экстремального контента для пользователей всех идеологий" немедленно выросли бы на двузначный процент, причем большая часть прироста пришлась бы на ультраправых).
Инициатива "Информированный обмен", которая понижала рейтинг контента, которым делились люди, не нажимавшие на соответствующие сообщения, и которая оказалась успешной в снижении распространения фальшивых новостей, также была выведена из употребления.