Алина
Назарова

Алина Назарова
редактор-переводчик Лайкни

Алгоритмы Facebook пропускают более 90% проблемного контента

18 октября 2021

Издание The Wall Street Journal (WSJ) опубликовало новое исследование, в котором говорится, что искусственный интеллект, на который топ-менеджеры Facebook возлагали надежды в борьбе с «опасным контентом» не оправдывает ожиданий.

Согласно внутренним документам компании, с которыми ознакомились в WSJ, искусственный интеллект не может распознать видеозаписи со стрельбой, сделанные от первого лица, и расистские высказывания.

В течение нескольких недель исследователи Facebook также были озадачены тем, что ИИ не мог найти разницу между петушиными боями и автокатастрофами, отмечает WSJ.

Без особого успеха проходить и борьба с разжиганием ненависти. Когда алгоритмы Facebook не уверены, что контент нарушает правила, чтобы удалить его, материал реже показывается пользователям – но аккаунты, которые разместили этот контент, остаются безнаказанными.

Проблема в том, что у нас нет и, вероятно, никогда не будет модели, которая охватывала бы даже большую часть вредного контента, особенно в чувствительных областях», – писал в одной из заметок старший инженер Facebook в середине 2019 года. По его оценке, автоматизированные системы компании удаляют посты, которые составляет всего лишь 2% всех просмотров, связанных с разжиганием ненависти. Он констатировал, что если не произойдет серьезных изменений в стратегии, то соцсети будет трудно улучшить этот показатель выше 10-20% в краткосрочной и среднесрочной перспективе.

К аналогичному выводу пришли в марте этого года другие сотрудники Facebook. Алгоритмы удаляют посты, которые составляют 3-5% просмотров, связанных с разжиганием ненависти, и 0,6% всего контента, который нарушает правила соцсети, подчеркивали они.

Статистика, представленная во внутренних документах, контрастирует с тем, что говорят насчет успехов искусственного интеллекта топ-менеджеры Facebook. Так, основатель Марк Цукерберг заявлял, что «коэффициент упреждающего обнаружения» достиг почти 98%.

Напомним, вокруг Facebook этой осенью разгорелся очередной скандал. Причиной стало расследование WSJ, которое было основано на внутренних документах компании. Так, согласно одной из публикаций газеты, платформа признает вредоносное влияние принадлежащей ей Instagram на подростковую аудиторию, а публично его преуменьшает.

Источник: The Bell
Рейтинг 5, голосов 3

Комментарии

0 комментариев
Чтобы оставить комментарий, войдите на сайт через:
Или выберите имя:

Используйте для пароля только буквы латинского алфавита и цифры от 0 до 9. Длина пароля должна быть не менее шести символов.

Будь в курсе

Главные новости, кейсы и статьи за месяц – у тебя в почте:

Отправляя форму, вы принимаете условия обработки персональных данных