Алина
Назарова

Команда Ингейт

Facebook обновил систему модерации контента с помощью ИИ

17 ноября 2020

Facebook стал использовать машинное обучение для определения приоритетов записей в очереди, которые должны пройти модерацию.

Это должно ускорить работу по модерации публикаций и замедлить распространение вредоносного контента.

Для приоритезации публикаций используется комбинация различных алгоритмов машинного обучения, которые учитывают три критерия постов: их вирусность, серьезность и вероятность нарушения правил.

Пока неясно, как именно взвешиваются эти критерии, но Facebook заявляет, что цель состоит в том, чтобы в первую очередь разобраться с наиболее опасными сообщениями. Чем более вирусным является сообщение (чем больше его видят и публикуют), тем быстрее он будет обработан. То же самое и с серьезностью сообщения. Facebook заявляет, что считает самыми важными посты, которые связаны с реальным вредом (контент, связанный с терроризмом, эксплуатацией детей или членовредительством). Между тем сообщения, подобные спаму, которые раздражают, но не травмируют, считаются наименее важными для проверки.

Если раньше модераторы просматривали посты в хронологическом порядке, что могло замедлять время реагирования команды модераторов на публикацию более срочных записей, то теперь важные сообщения должны быть видны первыми.

Так выглядела старая система модерации Facebook, сочетающая упреждающую модерацию с помощью фильтров машинного обучения и реактивных отчетов от пользователей Facebook.

Старая система приоритезации постов FB

А это новый процесс модерации, который теперь использует машинное обучение для сортировки очереди сообщений для проверки модераторами-людьми:

Новая система приоритезации постов FB

Источник: The Verge

Рейтинг 5, голосов 3

Комментарии

0 комментариев
Чтобы оставить комментарий, войдите на сайт через:
Или выберите имя:

Используйте для пароля только буквы латинского алфавита и цифры от 0 до 9. Длина пароля должна быть не менее шести символов.

Будь в курсе

Главные новости, кейсы и статьи за месяц – у тебя в почте:

Отправляя форму, вы принимаете условия обработки персональных данных