«Unshaven girl» в рекомендованном. TikTok провалил экзамен по безопасности после вступления в силу нового закона
NewsMakerНесмотря на принятие Online Safety Act, платформа продолжает выдавать детям самые откровенные запросы и ролики.
Исследование правозащитной организации Global Witness показало, что алгоритмы TikTok предлагают детям откровенные и порнографические материалы, несмотря на заявленные меры защиты.
Эксперты создали семь новых аккаунтов в Великобритании, указав возраст 13 лет. Для чистоты эксперимента использовались сброшенные до заводских настроек телефоны без истории поиска. Проверка возраста проходила лишь по самозаявлению, хотя платформа запрещает регистрацию пользователей младше 13 лет.
Во всех тестах был активирован «ограниченный режим» TikTok, предназначенный для фильтрации «взрослого» контента и защиты несовершеннолетних. Однако результаты эксперимента показали обратное.
Первый этап тестирования проходил до вступления в силу британского закона о безопасности в сети, который обязывает платформы защищать детей от вредного контента. Второй — уже после того, как TikTok должен был привести работу алгоритмов в соответствие с новыми требованиями.
После входа в поисковую строку исследователи столкнулись с «шокирующими результатами»: даже без ввода запроса приложение предлагало поиски вроде «very rude babes», «unshaven girl» и «TikTok Late Night For Adults».
Практически все созданные детские аккаунты получили доступ к порнографическим видео всего за несколько кликов. Среди материалов встречались как ролики с демонстрацией нижнего белья, так и откровенные сцены. По словам исследователей, часть контента обходила автоматические фильтры TikTok, маскируясь под безобидные видео или миниатюры.
Global Witness утверждает, что TikTok не только не предотвращает показ неприемлемых материалов несовершеннолетним, но и сам направляет их к подобным публикациям. В одном из случаев «детский» аккаунт получил порнографические рекомендации уже после двух нажатий.
После взаимодействия с сексуализированными запросами система начала предлагать ещё более откровенные темы, включая «hardcore pawn clips» и «unrestricted websites». Исследователи отметили, что некоторые ролики могли содержать изображения несовершеннолетних.
«Мы не можем с уверенностью сказать, что на видео присутствовали дети, но из-за серьёзности опасений направили материалы в Internet Watch Foundation», — заявили представители Global Witness.
После публикации отчёта TikTok сообщил о блокировке более 90 видеороликов и удалении ряда поисковых подсказок на английском и других языках.
«Как только мы узнали об этих утверждениях, сразу начали проверку, удалили нарушающий контент и внесли улучшения в функцию поисковых подсказок», — сказал представитель компании в комментарии The Guardian .
Global Witness призывает британского регулятора Ofcom проверить, соблюдает ли TikTok положения Online Safety Act, и заявляет, что проблема кроется не только в модерации, но и в самой логике алгоритмических рекомендаций.
Исследование правозащитной организации Global Witness показало, что алгоритмы TikTok предлагают детям откровенные и порнографические материалы, несмотря на заявленные меры защиты.
Эксперты создали семь новых аккаунтов в Великобритании, указав возраст 13 лет. Для чистоты эксперимента использовались сброшенные до заводских настроек телефоны без истории поиска. Проверка возраста проходила лишь по самозаявлению, хотя платформа запрещает регистрацию пользователей младше 13 лет.
Во всех тестах был активирован «ограниченный режим» TikTok, предназначенный для фильтрации «взрослого» контента и защиты несовершеннолетних. Однако результаты эксперимента показали обратное.
Первый этап тестирования проходил до вступления в силу британского закона о безопасности в сети, который обязывает платформы защищать детей от вредного контента. Второй — уже после того, как TikTok должен был привести работу алгоритмов в соответствие с новыми требованиями.
После входа в поисковую строку исследователи столкнулись с «шокирующими результатами»: даже без ввода запроса приложение предлагало поиски вроде «very rude babes», «unshaven girl» и «TikTok Late Night For Adults».
Практически все созданные детские аккаунты получили доступ к порнографическим видео всего за несколько кликов. Среди материалов встречались как ролики с демонстрацией нижнего белья, так и откровенные сцены. По словам исследователей, часть контента обходила автоматические фильтры TikTok, маскируясь под безобидные видео или миниатюры.
Global Witness утверждает, что TikTok не только не предотвращает показ неприемлемых материалов несовершеннолетним, но и сам направляет их к подобным публикациям. В одном из случаев «детский» аккаунт получил порнографические рекомендации уже после двух нажатий.
После взаимодействия с сексуализированными запросами система начала предлагать ещё более откровенные темы, включая «hardcore pawn clips» и «unrestricted websites». Исследователи отметили, что некоторые ролики могли содержать изображения несовершеннолетних.
«Мы не можем с уверенностью сказать, что на видео присутствовали дети, но из-за серьёзности опасений направили материалы в Internet Watch Foundation», — заявили представители Global Witness.
После публикации отчёта TikTok сообщил о блокировке более 90 видеороликов и удалении ряда поисковых подсказок на английском и других языках.
«Как только мы узнали об этих утверждениях, сразу начали проверку, удалили нарушающий контент и внесли улучшения в функцию поисковых подсказок», — сказал представитель компании в комментарии The Guardian .
Global Witness призывает британского регулятора Ofcom проверить, соблюдает ли TikTok положения Online Safety Act, и заявляет, что проблема кроется не только в модерации, но и в самой логике алгоритмических рекомендаций.