Как показало исследование, YouTube чаще рекомендует неприятные видео, чем полезные

Алгоритм рекомендаций компании Google иногда может отправить вас на многочасовой просмотр видео, настолько увлекательный, что вы и не заметите, как пролетит время. Однако, согласно исследованию (PDF), проведенному некоммерческой организацией Mozilla Foundation, доверяя алгоритму, вы с большей вероятностью увидите видео с сексуальным содержанием и фейковыми новостями, чем с личными предпочтениями.

В ходе исследования, в котором приняли участие более 37 000 добровольцев, Mozilla обнаружила, что 71% рекомендованных YouTube видеороликов были отмечены участниками как неприемлемые. Добровольцы использовали расширение для браузера, чтобы отслеживать свои просмотры на YouTube в течение 10 месяцев, и когда отмечали видео как сомнительное, расширение фиксировало, наткнулись ли они на это видео по рекомендации YouTube или самостоятельно.

Как сообщают исследователи, в число таких нерелевантных переходов вошли видеоролики, «пропагандирующие лженауку, заговоры 11 сентября, показывающие жестокое обращение с животными, и поощряющие превосходство белой расы». Родители одной девочки рассказали Mozilla, что их 10-летняя дочь в поисках танцевального контента провалилась в кроличью нору видеороликов об экстремальных диетах, что привело к тому, что она стала ограничивать себя в еде.

Причиной того, что эти видео становятся рекомендованными, является их способность стать вирусными. Если видео с потенциально вредным содержанием успевает набрать тысячи или миллионы просмотров, алгоритм рекомендаций может распространить его среди пользователей, вместо того чтобы сосредоточиться на их личных интересах.

YouTube удалил порядка 200 видео, отмеченных в ходе исследования, а представитель компании сообщил Wall Street Journal, что «компания сократила количество рекомендаций контента, который она определяет как вредный, до менее 1% от просмотренных видео». Представитель также сообщил, что за последний год YouTube внес 30 изменений для решения этой проблемы, и теперь автоматизированная система обнаруживает и удаляет 94% видео, нарушающих политику YouTube, прежде чем они достигнут 10 просмотров.

YouTube отказывается обнародовать какую-либо информацию о том, как именно работает алгоритм рекомендаций, заявляя, что он является собственностью компании. Поэтому мы, потребители, не можем знать, действительно ли компания делает всё возможное для борьбы с подобными видео, распространяемыми с помощью алгоритма.