«Раздеть» за пару кликов. Apple и Google помогают нейросетям создавать порно без согласия
NewsMakerДоход сервисов для создания интимных изображений без согласия превысил 122 миллиона долларов.
Искать приложения в смартфоне оказалось не так безобидно, как кажется. Стоит вбить пару слов – и алгоритмы сами подскажут, как «раздеть» человека на фото с помощью нейросетей . Причём такие подсказки дают крупнейшие магазины приложений от Apple и Google.
Новая проверка Tech Transparency Project показала, что несмотря на формальные запреты, оба магазина не только пропускают подобные сервисы, но и активно ведут к ним пользователей. Достаточно ввести запросы вроде «nudify», «undress» или «deepnude», чтобы получить десятки приложений, способных «снимать» одежду с людей на снимках, создавать порнографические ролики или превращать изображения в откровенные чат-боты.
Причём речь не о единичных случаях. Около 40% приложений, которые появляются в результатах поиска, умеют генерировать обнажённые или полуобнажённые изображения женщин. Некоторые сервисы делают это буквально в пару нажатий – достаточно выделить область одежды на фото и ввести команду вроде «убрать одежду».
Алгоритмы идут дальше. В процессе набора запроса магазины сами предлагают новые варианты поиска, которые ведут к ещё большему числу подобных программ. Параллельно пользователям показывают рекламу таких приложений – иногда прямо в верхней части выдачи.
Искать приложения в смартфоне оказалось не так безобидно, как кажется. Стоит вбить пару слов – и алгоритмы сами подскажут, как «раздеть» человека на фото с помощью нейросетей . Причём такие подсказки дают крупнейшие магазины приложений от Apple и Google.
Новая проверка Tech Transparency Project показала, что несмотря на формальные запреты, оба магазина не только пропускают подобные сервисы, но и активно ведут к ним пользователей. Достаточно ввести запросы вроде «nudify», «undress» или «deepnude», чтобы получить десятки приложений, способных «снимать» одежду с людей на снимках, создавать порнографические ролики или превращать изображения в откровенные чат-боты.
Причём речь не о единичных случаях. Около 40% приложений, которые появляются в результатах поиска, умеют генерировать обнажённые или полуобнажённые изображения женщин. Некоторые сервисы делают это буквально в пару нажатий – достаточно выделить область одежды на фото и ввести команду вроде «убрать одежду».
Алгоритмы идут дальше. В процессе набора запроса магазины сами предлагают новые варианты поиска, которые ведут к ещё большему числу подобных программ. Параллельно пользователям показывают рекламу таких приложений – иногда прямо в верхней части выдачи.