Алина
Назарова

Алина Назарова
редактор-переводчик Лайкни

ВКонтакте будет фильтровать угрозы в комментариях

26 февраля 2021

ВКонтакте запустил специальный фильтр для борьбы с враждебными высказываниями. Нейросеть поможет администраторам пабликов бороться с угрозами в комментариях, а пользователям – реже сталкиваться с травлей в комментариях сообществ.

Фильтр можно включить и отключить в настройках сообщества в любое время, при этом по умолчанию он отключен. Функция уже появилась у владельцев 50% пабликов, а скоро станет доступна всем.

Пока алгоритмы умеют определять только прямые угрозы – пожелания смерти, обещания причинить вред здоровью и угрозы расправы. Разработчики ВКонтакте обещают, что в будущем он может научиться распознавать и другие признаки нетерпимости (например, травлю по национальной или религиозной принадлежности).

Руководителям сообществ доступны отфильтрованные публикации с возможностью их восстановить, однако тестовый запуск показал, что отсеянные комментарии возвращают лишь в 1% случаев.

Фильтр ВК

Тестирование фильтра было запущено в ноябре 2020 года. За этот период функцией уже воспользовались руководители свыше 10% всех сообществ ВКонтакте – это 13 млн публичных страниц, групп и мероприятий.

Нейросеть содержит специальный механизм внимания, позволяющий принимать решения на основе важности слов и их комбинаций. Сейчас нейросеть правильно определяет угрозы в 80% случаев, и команда продолжает работать над ее улучшением.

ВКонтакте предлагает и другие функции для защиты от травли. Любой пользователь может отправить жалобу службе модерации, если публикация содержит оскорбление, угрозы или враждебные высказывания, – кнопка «Пожаловаться» есть у записей, комментариев, фото и видео, историй, клипов.

Источник: пресс-релиз ВКонтакте 

Рейтинг 5, голосов 3

Комментарии

0 комментариев
Чтобы оставить комментарий, войдите на сайт через:
Или выберите имя:

Используйте для пароля только буквы латинского алфавита и цифры от 0 до 9. Длина пароля должна быть не менее шести символов.

Будь в курсе

Главные новости, кейсы и статьи за месяц – у тебя в почте:

Отправляя форму, вы принимаете условия обработки персональных данных