К 2020 году опасения стали слишком масштабными, чтобы их игнорировать. В октябре того же года, накануне президентских выборов в США, Facebook отключил рекомендации групп по всем политическим и социальным вопросам 46 , а также запретил страницы и группы QAnon. 47 Однако, хотя платформа в конце концов отмодерировала, группы просто собрались в другом месте; к этому моменту связи в социальных сетях уже были установлены, мировоззрения сформированы, дружеские отношения и фэндомы укрепились. Людей годами подталкивали к сообществам любителей теорий заговора, отправляя их в кроличьи норы, ведущие к полномасштабным заказным реалиям. И, как говорит специалист по технологической этике Л. М. Сакасас, "миры, в которых мы сейчас живем, - это оцифрованные царства, неспособные по своей природе и дизайну генерировать широко распространенный опыт реальности. Об этом можно сетовать, если есть желание, но это невозможно исправить". 48
Алгоритмы формируют не только то, кого мы знаем, но и то, что мы видим. Побудив нас вступать в группы и следить за людьми, алгоритмы курирования и ранжирования ленты выбирают среди этих (и подобных им) аккаунтов тот, который попадает в поле нашего зрения. 49
Когда социальные сети превратили всех в создателей контента, платформы столкнулись с проблемой переизбытка контента. В ранних социальных сетях в основном использовалась обратная хронологическая лента, в которой самое последнее сообщение находилось вверху. Алгоритмы ранжирования и курирования вместо этого фильтровали и сортировали контент, пытаясь определить, что будет наиболее интересным, создавая персонализированный контент для каждого конкретного пользователя. Эти системы курации начинают с инвентаризации всего возможного контента на платформе, доступного для просмотра пользователем, - часто это посты влиятельных лиц, за которыми он следит, групп, в которых он состоит, или контент, похожий на любой из них. 50 Затем они удаляют "пограничный" (проблемный) контент 51 - то, что противоречит политике модерации платформы и не подлежит курации (а иногда и монетизации); это называется дебустированием, понижением рейтинга или демонизацией. Из оставшихся постов алгоритм курирования выбирает подмножество постов-"кандидатов" с высокой вероятностью релевантности для целевого пользователя и затем ранжирует их. В процессе ранжирования платформа определяет, какие из релевантных постов вы с наибольшей вероятностью будете воспринимать, сохраняя вашу заинтересованность, присутствие на сайте и возможность видеть рекламу. 52
Алгоритмы курирования имеют решающее значение для бизнеса платформы и средств к существованию влиятельных лиц. Лента Facebook, временная шкала "Для вас" в Twitter и правая колонка эскизов видео на YouTube - все они стремятся выбрать именно те посты, которые помогут удержать конкретного пользователя на сайте. 53 Действительно, в одном из самых быстрорастущих социальных приложений 2020-х годов - TikTok - страница "Для вас" (FYP) отошла от курирования на основе социальных графов пользователей и перешла к курированию, основанному в первую очередь на интуитивных интересах пользователей. Кажущиеся произвольными видео часто становятся очень популярными. Изучая популярный контент, связанный с выборами в 2022 году, моя команда заметила, что многие из видеороликов TikTok с наибольшим количеством просмотров были не с очевидными политическими хэштегами (что могло бы указывать на то, что люди нашли их через поиск) или с аккаунтов с большой аудиторией (что могло бы указывать на органический охват). 54 Скорее, это были видео, которые алгоритм FYP решил, что нужно усилить. На самом деле было практически невозможно найти самые популярные предвыборные видео через поиск, потому что ключевые слова не имели значения - пытаться выяснить, какой связанный с выборами контент был наиболее популярен на TikTok в 2022 году, было все равно что искать в словаре слово, которого вы не знаете, как написать. В январе 2023 года выяснилось, что некоторые сотрудники TikTok имели доступ к инструменту под названием "кнопка нагрева", который позволял им повышать популярность определенных видео (в любой категории контента). Кнопка якобы использовалась для привлечения влиятельных лиц и брендов к партнерству, 55 , а просмотры "подогретых" видео иногда составляли от 1 до 2 процентов от общего числа ежедневных просмотров видео на платформе - необычайно много. 56