0 8
8 0 0
Facebook обновил систему модерации контента с помощью ИИ

Facebook обновил систему модерации контента с помощью ИИ

17 ноября 2020, 10:47  | Алина Назарова

Facebook стал использовать машинное обучение для определения приоритетов записей в очереди, которые должны пройти модерацию.

Это должно ускорить работу по модерации публикаций и замедлить распространение вредоносного контента.

Для приоритезации публикаций используется комбинация различных алгоритмов машинного обучения, которые учитывают три критерия постов: их вирусность, серьезность и вероятность нарушения правил.

Пока неясно, как именно взвешиваются эти критерии, но Facebook заявляет, что цель состоит в том, чтобы в первую очередь разобраться с наиболее опасными сообщениями. Чем более вирусным является сообщение (чем больше его видят и публикуют), тем быстрее он будет обработан. То же самое и с серьезностью сообщения. Facebook заявляет, что считает самыми важными посты, которые связаны с реальным вредом (контент, связанный с терроризмом, эксплуатацией детей или членовредительством). Между тем сообщения, подобные спаму, которые раздражают, но не травмируют, считаются наименее важными для проверки.

Если раньше модераторы просматривали посты в хронологическом порядке, что могло замедлять время реагирования команды модераторов на публикацию более срочных записей, то теперь важные сообщения должны быть видны первыми.

Так выглядела старая система модерации Facebook, сочетающая упреждающую модерацию с помощью фильтров машинного обучения и реактивных отчетов от пользователей Facebook.

Старая система приоритезации постов FB

А это новый процесс модерации, который теперь использует машинное обучение для сортировки очереди сообщений для проверки модераторами-людьми:

Новая система приоритезации постов FB

Источник: The Verge

(Голосов: 3, Рейтинг: 5)
Читайте нас в Telegram - digital_bar
Читайте нас в Telegram - digital_bar

 Случилось что-то важное? Поделитесь новостью с редакцией.
Комментарии
0 комментариев
Подписаться 
Подписаться на дискуссию:
E-mail:
ОК
Вы подписаны на комментарии
Ошибка. Пожалуйста, попробуйте ещё раз.