Исследование: Рекомендации YouTube советуют детям-геймерам видеоролики про оружие и стрельбу в школах

Некоммерческая группа Tech Transparency Project (TTP) опубликовала отчет об исследовании принципов работы алгоритма рекомендаций YouTube. Для этого было создано четыре новых аккаунта, два из которых были зарегистрированы на 9-летних, и еще два на 14-летних мальчиков. Все аккаунты просматривали плейлисты с видеоигровым контентом из таких тайтлов, как Roblox, Lego Star Wars, Halo и Grand Theft Auto.

В течение месяца отслеживались рекомендации, которые сервис выдавал детским аккаунтам. Как оказалось, продвигал он очень даже недетские вещи:

Исследование показало, что YouTube рассылал контент о стрельбе и оружии всем аккаунтам геймеров, но в гораздо большем объеме пользователям, которые кликали на рекомендованные YouTube видео. Эти видео включали сцены, изображающие стрельбу в школах и другие массовые расстрелы, наглядные демонстрации того, какой урон оружие может нанести человеческому телу, и руководства по переделке ручного оружия в полностью автоматическое.

Некоторые из этих видео были монетизированы с помощью рекламы.

В YouTube уже отреагировали на исследование:

Мы приветствуем исследования наших рекомендаций, и мы изучаем больше способов привлечения научных групп к изучению наших систем. Однако нам трудно сделать серьезные выводы об этом отчете. Например, в исследовании не приводится контекст того, сколько всего видео было рекомендовано тестовым аккаунтам, а также не дается представление о том, как были настроены тестовые аккаунты, в том числе применялись ли инструменты Supervised Experiences.

Примет ли YouTube какие-то меры не на словах, а на делах — неясно.