YouTube поймали на рекомендациях неприемлемого контента вместо полезного

Исследование показало, что YouTube чаще предлагает неприемлемые видео вместо полезных. Компания уже ответила о снижении доли вирусного и дезинформационного контента в рекомендациях.

Mozilla Foundation провело исследование качества видеороликов, которые были предложены пользователям. В нём участвовали более 37 000 добровольцев, которые установили в браузере специальное расширение. Оно позволяло отмечать предложенные видеоролики как нежелательные.

По словам исследователей, 71% рекомендуемых роликов были помечены как нежелательные. В эту категорию попали видео, которые отстаивают псевдонаучные концепции, теории заговоров, а также видео жестокого обращения с животными и вирусные ролики.

Показателен случай с родителями десятилетней девочки, которые рассказали, что ребёнок искал видео о танцах. Однако при переходе на ролики из рекомендованных ей предложили просмотреть видео об «экстремальных» диетах. Это привело к негативному изменению пищевых привычек чада.

В ответ на обвинения YouTube сообщил, что было удалено 200 видео, которые в ходе исследования отмечались в качестве неприемлемого контента. Было внесено порядка 30 изменений в алгоритмы, которые должны снизить количество неприемлемого контента в рекомендациях. При этом работает автоматическая система удаления контента, которая не допускает до 94%, нарушающего правила YouTube.

Обвинять алгоритмы YouTube в «подсовывании» неприемлемого контента сложно. Так как они учитывают, в том числе, и досматриваемость роликов. Чем больше людей досмотрели ролик до конца, тем большая вероятность, что он будет рекомендован. А интерес населения к различным лженаучным учениям и теориям заговора объяснять не стоит.

До сих пор нет 100% рабочих моделей машинного обучения. Скорее всего, YouTube также применяет искусственный интеллект для составления списка рекомендаций. И создаваемый перекос, опять же заслуга пользователей сервиса. ИИ беспристрастно рекомендует то, что ранее набрало хорошие просмотры и досматривалось до конца.

Создать идеально работающий алгоритм невозможно. Нужно учитывать слишком много переменных, что требует колоссальных вычислительных мощностей. Даже с учётом возможностей Google не думаю, что до момента распространения квантовых компьютеров удастся правильно настроить алгоритм,

— Сергей Блохин,

IT-специалист (г. Санкт-Петербург).

Свежие новости:

Ещё по теме:

Обвинять алгоритмы YouTube в «подсовывании» неприемлемого контента сложно. Так как они учитывают, в том числе, и досматриваемость роликов. Чем больше людей досмотрели ролик до конца, тем большая вероятность, что он будет рекомендован. А интерес населения к различным лженаучным учениям и теориям заговора объяснять не стоит.

До сих пор нет 100% рабочих моделей машинного обучения. Скорее всего, YouTube также применяет искусственный интеллект для составления списка рекомендаций. И создаваемый перекос, опять же заслуга пользователей сервиса. ИИ беспристрастно рекомендует то, что ранее набрало хорошие просмотры и досматривалось до конца.

Создать идеально работающий алгоритм невозможно. Нужно учитывать слишком много переменных, что требует колоссальных вычислительных мощностей. Даже с учётом возможностей Google не думаю, что до момента распространения квантовых компьютеров удастся правильно настроить алгоритм,

— Сергей Блохин,

IT-специалист (г. Санкт-Петербург).