Facebook разработал новую систему для обнаружения дезинформации и фальшивых учетных записей

Facebook опубликовал схему новой системы, которая поможет ему улучшить обнаружение поддельных учетных записей и дезинформации. Она станет дополнением к существующим подходам и еще лучше поможет устранять злоумышленников с платформ соцсети.

Традиционно, по словам Facebook, подходы к обнаружению фальшивых учетных записей и другой вредоносной активности основаны на так называемом «статическом» поведении, которое не обязательно отражает то, как люди взаимодействуют внутри соцсети:

«Сущности на платформе, такие как учетные записи, сообщения, страницы и группы, не статичны. Они взаимодействуют друг с другом с течением времени, что может многое рассказать об их природе. Например, поддельные учетные записи и сообщения с дезинформацией вызывают различные типы реакции от других аккаунтов».

Основа системы TIES от Facebook — отслеживание различных действий пользователей и взаимодействия с каждым постом. TIES может выявить типичное поведение, связанное с неаутентичными объектами.

«Сущности в социальных сетях (учетные записи, сообщения, истории, группы, страницы) с течением времени генерируют многочисленные взаимодействия с другими объектами. Например, сообщения получают лайки, репосты, комментарии. От пользователей или аккаунтов отправляются или отклоняются запросы, идет отправка или блокировка сообщений из других учетных записей »

Новая система Facebook теперь может лучше согласовывать это поведение с четкими сигналами, которые затем могут помечать их для дальнейшего изучения.

На этом изображении общих взаимодействий, Facebook говорит, что желтые точки указывают на вредоносную активность. Как видите, взаимодействие с этими сообщениями значительно отличается от обычных (фиолетовых) действий пользователя.

«Поддельные аккаунты ведут себя иначе, чем обычные аккаунты. Ненавистные сообщения порождают разные типы взаимодействия по сравнению с обычными сообщениями. Не только тип, но и цель этих взаимодействий могут быть информативными. Например, аккаунт с историей распространения ненависти или дезинформации или слишком позитивное взаимодействие с постом может указывать на сомнительный контент».

В основе системы лежит модель TIES Facebook, обученная на 2,5 млн учетных записей (с 80/20 настоящими/поддельными) и 130 тысячах сообщений (примерно 10% которые помечены как дезинформация). В небольшом масштабе вы не заметите никакой реальной разницы в том, как пользователи взаимодействуют с этими сущностями, но в большем масштабе возникают определенные закономерности. И это позволит Facebook улучшить усилия по обнаружению и защите прав.