Facebook рассказал об обновленной системе модерации контента

Facebook обновил свою систему очереди модерации контента, что должно привести к значительным улучшениям в работе с опасными сообщениями и замедлить распространение вредоносного контента. Новый процесс использует улучшенные процессы машинного обучения для категоризации контента.

Этот процесс гарантирует, что команда модераторов Facebook в первую очередь будет направлена ​​на вредоносный контент для оптимизации рабочей нагрузки и ограничения его распространения на основе автоматического обнаружения.

При этом любой автоматизированной системе будет сложно определить правильный порядок таких случаев со 100% точностью, в результате чего некоторые из наиболее тревожных случаев могут оставаться активными дольше, чем другие. Но это лучше, чем текущая ситуация.

Еще в мае видео с теорией заговора собрало почти 2 миллиона просмотров на Facebook, прежде чем компания удалила его, а в июле Facebook признал, что «потребовалось больше времени, чем следовало», чтобы удалить еще одно видео, связанное с заговором по COVID-19, который достиг 20 миллионов просмотров до того, как Facebook принял меры.