Соцсети капитулировали перед ИИ-фейками после заявления Трампа о задержании венесуэльского лидера
NewsMakerАлгоритмы модерации просто не выдержали столкновения с реальностью.
В первые часы после заявления Дональда Трампа о поимке венесуэльского лидера Николаса Мадуро и его супруги соцсети захлестнула волна ложной информации. Видеоролики, созданные с помощью нейросетей , старые записи, выданные за свежие кадры из Каракаса, а также вымышленные сцены ареста начали быстро набирать популярность на TikTok, Instagram* и X.
Американские военные действия и последовавшее задержание Мадуро стали поводом для активизации пользователей, стремящихся нажиться на резонансной теме. Специалисты отмечают, что платформы не справились с контролем над распространяемыми материалами, несмотря на многократные случаи дезинформации, сопровождающие крупные международные события в последние годы.
Среди прочего в соцсетях активно публиковали якобы документальные свидетельства участия агентов Управления по борьбе с наркотиками (DEA) в операции. Однако одно из таких изображений, где Мадуро стоит в окружении сотрудников силовых структур, оказалось подделкой. Проверка при помощи SynthID — технологии компании Google DeepMind — показала, что картинка была сгенерирована ИИ. Невидимый цифровой маркер, встроенный в изображение, подтвердил её искусственное происхождение.
Ранее другие инструменты на базе искусственного интеллекта , включая чат-боты Google и X, также указывали на сфабрикованность материалов. Хотя в ряде случаев сами алгоритмы допускали ошибки, утверждая, что изображение лишь отредактировано и взято из других событий, таких как задержание мексиканского наркобарона в 2017 году.
В первые часы после заявления Дональда Трампа о поимке венесуэльского лидера Николаса Мадуро и его супруги соцсети захлестнула волна ложной информации. Видеоролики, созданные с помощью нейросетей , старые записи, выданные за свежие кадры из Каракаса, а также вымышленные сцены ареста начали быстро набирать популярность на TikTok, Instagram* и X.
Американские военные действия и последовавшее задержание Мадуро стали поводом для активизации пользователей, стремящихся нажиться на резонансной теме. Специалисты отмечают, что платформы не справились с контролем над распространяемыми материалами, несмотря на многократные случаи дезинформации, сопровождающие крупные международные события в последние годы.
Среди прочего в соцсетях активно публиковали якобы документальные свидетельства участия агентов Управления по борьбе с наркотиками (DEA) в операции. Однако одно из таких изображений, где Мадуро стоит в окружении сотрудников силовых структур, оказалось подделкой. Проверка при помощи SynthID — технологии компании Google DeepMind — показала, что картинка была сгенерирована ИИ. Невидимый цифровой маркер, встроенный в изображение, подтвердил её искусственное происхождение.
Ранее другие инструменты на базе искусственного интеллекта , включая чат-боты Google и X, также указывали на сфабрикованность материалов. Хотя в ряде случаев сами алгоритмы допускали ошибки, утверждая, что изображение лишь отредактировано и взято из других событий, таких как задержание мексиканского наркобарона в 2017 году.