Вы все наверное натыкались в Facebook на совершенно упоротые группы с заряженным политическим контентом. Обычно такие группы собирают не сильно критично мыслящих людей, а новости там подают эмоционально и субъективно, продвигая определенную политическую позицию. Кроме дезинформации в таких группах часто можно найти хейтспич, вплоть до прямых призывов к насилию. Я видел такие группы в украинском сегменте, это реальный deep state. Там плетутся такие теории и это все набирает такие тысячи репостов, что я ужаснулся.
Успех таких рупоров дезинформации обусловлен во-первых человеческой психологией, а во-вторых алгоритмами Facebook. Газета WSJ рассказывает, как ставка Facebook на группы привела к расколу общества и косвенно к штурму Капитолия радикальными сторонниками Трампа.
Начиналось все хорошо - в 2019 Цукерберг на красивой презентации объявил, что группы это "new heart of the app". Ньюсфид теперь вторичный приоритет, будем загонять пользователей в сообщества, чтобы люди больше общались и объединялись вокруг общих интересов. Sounds good, doesn't work. Все сразу пошло не так - самыми быстрорастущими оказались группы с радикальным контентом, и главным фактором их роста стали алгоритмы рекомендаций Facebook. Пользователь мог в несколько кликов попасть из группы по альтернативной медицине в группу по антиковиду, а оттуда - в группу антиправительственных повстанцев. Продуктовые фишки, сделанные для роста активности, помогали распространителям плохого контента - администраторы групп могли приглашать в них тысячи новых пользователей в день, а те начинали видеть контент из групп, даже не приняв приглашение.
Внутренние исследования соцсети показали, что 70% из 100 самых активных политических американских групп распространяют ненависть, дезинформацию и травлю. Летом перед выборами про-Трамповские группы могли набрать миллион пользователей всего за два месяца. Кстати, самую крупную из таких групп вели из Македонии.
Контент 10 самых активных групп в конце лета набирал 93 миллиона просмотров за неделю - как тебе такое, New York Times? В них царила токсичная и радикальная атмосфера, вплоть до прямых угроз жизни активистам и членам Конгресса. Администраторы поощряли распространение контента вовне группы и обучали пользователей, как обходить автофильтры хейтспича Facebook.
Предложенные аналитиками меры менеджеры Facebook сначала игнорировали, чтобы не навредить метрикам, потом принимали по мере роста проблемных групп: выбрасывали их из рекомендаций, замораживали треды с хейтспичем, самые токсичные блокировали. Где-то это срабатывало, где-то меры принимались слишком поздно. К примеру, после выборов группа "Stop the Steal", в которой сторонники Трампа выступали за отмену результатов выборов, набрала 360 000 пользователей за сутки даже без рекомендаций Facebook. В итоге в Facebook ужесточили правила для группами и вообще убрали политические сообщества из рекомендаций. Но сколько проблем уже было создано этими группами... А сколько еще проблем с экстремизмом, дезинформацией и хейтспичем будет в других странах, к которым Facebook не настолько внимателен в модерации, как к США... Уверен, очень много.
