Facebook опубликовал очередной Transparency Report, в котором впервые поделился статистикой относительно эффективности модерирования hate speech. Так, по утверждению компании, только 0.1-0.11 процента контента, который видят пользователи в ленте, нарушает правила сети относительно hate speech, а 95 процентов такого контента удаляется проактивно.

Большое количество таких проактивных действий обеспечивается автоматической модерацией, хотя сам Facebook указывает, что используемый AI в основном может распознавать уже известные тренды, но, скорее всего, окажется беспомощным перед каким-то новым новостным поводом. Остается открытым вопрос, какое количество контента банится в результате false positive срабатываний, хотя компания приводит некоторую статистику — так, именно со второго квартала, когда в результате пандемии изменился режим работы модерации, резко упало количество обжалований модераторских действий — с 1,2 млн жалоб до 29,9-41 тысяч в квартал, при этом 141 тысячу постов в Q2 и 232 тысячи в Q3 компания восстановила сама, без апелляции и по 4 тысячи апелляций было удовлетворено. Как толковать эту статистику — решайте сами, но, скорее всего, падение количества апелляций связано с ограничением в их приеме, а не резким улучшением качества модерирования. Хотя количество постов, ставших жертвами модерации, тоже резко увеличилось со второго квартала — с 9 до 22 млн в квартал.

В общем, как говорили модераторы на нашем старом форуме — если вы не забанены, это не ваша заслуга, а наша недоработка.
https://www.theverge.com/2020/11/19/21575139/facebook-moderation-ai-hate-speech