Одноклассники запустили технологию на базе нейросетей для борьбы с агрессивными высказываниями и разжиганием розни в публичных комментариях.
Нейросеть сама анализирует уровень агрессии в комментариях, затем передает данные модератору, который принимает дальнейшее решение по действиям с комментариями.
При анализе изображений в комментариях алгоритм также определяет наличие шокирующего содержания и актов насилия, которые после проверки тоже будут удалены.
Пользователи, которые выражают агрессию и ненависть по отношению к другим в комментариях, получат временный запрет на комментирование любого контента в ОК. В десктопной версии соцсети пользователи, которые получили временный запрет на оставление комментариев, при попытке прокомментировать контент увидят сообщение с объяснениями и ссылкой на подробности о работе нового алгоритма. В ближайшее время эта функция появится и в приложениях на iOS и Android, пояснили в компании.
Похожую нейросеть использует и ВКонтакте – в сообществах администраторам доступен специальный фильтр для борьбы с враждебными высказываниями, который при включении определяет прямые угрозы и выражения ненависти к другим людям и удаляет враждебные комментарии.
Источник: пресс-релиз Одноклассников
