Полуголые аватары, фейковые репортажи и антимигрантская пропаганда. ИИ-спам захватил TikTok
NewsMakerНекоторые боты публикуют до 70 роликов в сутки, но модерация месяцами их игнорирует.
Некоммерческая организация AI Forensics из Парижа представила отчёт о всплеске ИИ-контента в TikTok . Анализ показал, что за месяц сотни аккаунтов, ориентированных на генеративные технологии, сумели собрать миллиарды просмотров, продвигая в том числе ксенофобные ролики и сексуализированные образы.
Команда AI Forensics выявила 354 аккаунта, чьи авторы публиковали около 43 тысяч видео, созданных с помощью генеративных инструментов . Совокупно эти ролики набрали приблизительно 4,5 млрд просмотров за период с середины августа по середину сентября. Значительная часть таких профилей, по оценке организации, строит стратегию на заваливании алгоритма платформы массовой загрузкой контента в надежде на вирусное распространение. Отмечен аккаунт, публиковавший до 70 видео в сутки, а многие профили появились в начале года, что указывает на целенаправленное развёртывание сети автоматизированных страниц.
Среди наиболее активных аккаунтов половина специализировалась на роликах, сосредоточенных на женском теле. В AI Forensics отмечают, что виртуальные персонажи-женщины подаются стереотипно привлекательными, в откровенной одежде и с акцентом на области декольте, при этом в отдельных видео фигурируют девочки, выглядящие как несовершеннолетние. Также зафиксированы фейковые новостные сюжеты с антимигрантскими нарративами, оформленные под сюжеты известных телекомпаний вроде Sky News и ABC.
Отдельная проблема связана с маркировкой : по данным отчёта, примерно половина опубликованных роликов вообще не сопровождалась пометкой об использовании ИИ, а стандартная метка TikTok для ИИ-контента появлялась менее чем у 2% таких материалов. В организации считают, что это повышает риск введения пользователей в заблуждение, тем более что часть подобных аккаунтов месяцами не попадала под модерацию, хотя многократно нарушала правила сервиса. После публикации данных AI Forensics десятки таких аккаунтов были удалены, что указывает на последующее вмешательство модераторов. Некоторые отдельные ролики, на которые обратило внимание издание «The Guardian», платформа также позже убрала.
Некоммерческая организация AI Forensics из Парижа представила отчёт о всплеске ИИ-контента в TikTok . Анализ показал, что за месяц сотни аккаунтов, ориентированных на генеративные технологии, сумели собрать миллиарды просмотров, продвигая в том числе ксенофобные ролики и сексуализированные образы.
Команда AI Forensics выявила 354 аккаунта, чьи авторы публиковали около 43 тысяч видео, созданных с помощью генеративных инструментов . Совокупно эти ролики набрали приблизительно 4,5 млрд просмотров за период с середины августа по середину сентября. Значительная часть таких профилей, по оценке организации, строит стратегию на заваливании алгоритма платформы массовой загрузкой контента в надежде на вирусное распространение. Отмечен аккаунт, публиковавший до 70 видео в сутки, а многие профили появились в начале года, что указывает на целенаправленное развёртывание сети автоматизированных страниц.
Среди наиболее активных аккаунтов половина специализировалась на роликах, сосредоточенных на женском теле. В AI Forensics отмечают, что виртуальные персонажи-женщины подаются стереотипно привлекательными, в откровенной одежде и с акцентом на области декольте, при этом в отдельных видео фигурируют девочки, выглядящие как несовершеннолетние. Также зафиксированы фейковые новостные сюжеты с антимигрантскими нарративами, оформленные под сюжеты известных телекомпаний вроде Sky News и ABC.
Отдельная проблема связана с маркировкой : по данным отчёта, примерно половина опубликованных роликов вообще не сопровождалась пометкой об использовании ИИ, а стандартная метка TikTok для ИИ-контента появлялась менее чем у 2% таких материалов. В организации считают, что это повышает риск введения пользователей в заблуждение, тем более что часть подобных аккаунтов месяцами не попадала под модерацию, хотя многократно нарушала правила сервиса. После публикации данных AI Forensics десятки таких аккаунтов были удалены, что указывает на последующее вмешательство модераторов. Некоторые отдельные ролики, на которые обратило внимание издание «The Guardian», платформа также позже убрала.