Купил подписку и раздел полкласса. Типичные будни школы в эпоху доступных нейросетей
NewsMakerПятеро девочек пришли на занятия — и обнаружили, что вся школа уже видела их без одежды.
Декабрьским утром в старшей школе Рэднор в Пенсильвании пять девятиклассниц пришли на занятия, уже зная, что о них говорит вся школа. Накануне ночью один из одноклассников с помощью приложения на смартфоне создал откровенные видеозаписи с их лицами и разослал их друзьям. К восьми утра слухи облетели уже не только Рэднор, но и всю округу.
Приложение называлось Movely и было доступно в App Store . Внешне оно позиционировалось как инструмент для редактирования фото и видео с помощью искусственного интеллекта: превращение людей в супергероев, животных, инфлюенсеров. Однако за платной подпиской скрывался функционал, позволявший по текстовому запросу менять изображения на откровенные. По данным журналистов 404 Media, подросток потратил на эту подписку 250 долларов.
Организация Tech Transparency Project ещё в апреле сообщала, что поиск в App Store по запросам «nudify» и «undress» выдавал приложения именно с такими функциями. Movely появлялось в результатах поиска по запросу «adult AI» — в том числе в виде рекламного объявления. Специалисты TTP протестировали приложение: загрузив снимок женщины в футболке и выделив её одежду, они ввели текстовый запрос — и получили четыре варианта обнажённого изображения. Приложение было удалено из магазина только после публикации отчёта.
Показательно, что сайт разработчика — компании FES2 Inc. — был зарегистрирован в июле 2025 года и представлял собой страницу-заглушку. Адреса электронной почты в политике конфиденциальности и пользовательском соглашении не совпадали между собой и с контактами разработчика. Блог приложения был заполнен материалами о генерации изображений девушек и замене одежды.
Apple в своём ежегодном отчёте для европейских регуляторов сообщила, что в прошлом году заблокировала более двух миллионов проблемных заявок на публикацию приложений. Однако Movely в их число не вошло.
Тем временем Пенсильвания криминализировала создание вредоносных дипфейков ещё в 2024 году. В 2025 году один мужчина даже был обвинён по более чем 30 статьям за хранение материалов сексуального насилия над детьми, сгенерированных с помощью ИИ .
Несмотря на такие прецеденты, администрация школы Рэднор, по данным родителей и переписке с педагогами, не смогла адекватно отреагировать на произошедшее. Ситуацию взял под личный контроль губернатор штата Джош Шапиро.
Декабрьским утром в старшей школе Рэднор в Пенсильвании пять девятиклассниц пришли на занятия, уже зная, что о них говорит вся школа. Накануне ночью один из одноклассников с помощью приложения на смартфоне создал откровенные видеозаписи с их лицами и разослал их друзьям. К восьми утра слухи облетели уже не только Рэднор, но и всю округу.
Приложение называлось Movely и было доступно в App Store . Внешне оно позиционировалось как инструмент для редактирования фото и видео с помощью искусственного интеллекта: превращение людей в супергероев, животных, инфлюенсеров. Однако за платной подпиской скрывался функционал, позволявший по текстовому запросу менять изображения на откровенные. По данным журналистов 404 Media, подросток потратил на эту подписку 250 долларов.
Организация Tech Transparency Project ещё в апреле сообщала, что поиск в App Store по запросам «nudify» и «undress» выдавал приложения именно с такими функциями. Movely появлялось в результатах поиска по запросу «adult AI» — в том числе в виде рекламного объявления. Специалисты TTP протестировали приложение: загрузив снимок женщины в футболке и выделив её одежду, они ввели текстовый запрос — и получили четыре варианта обнажённого изображения. Приложение было удалено из магазина только после публикации отчёта.
Показательно, что сайт разработчика — компании FES2 Inc. — был зарегистрирован в июле 2025 года и представлял собой страницу-заглушку. Адреса электронной почты в политике конфиденциальности и пользовательском соглашении не совпадали между собой и с контактами разработчика. Блог приложения был заполнен материалами о генерации изображений девушек и замене одежды.
Apple в своём ежегодном отчёте для европейских регуляторов сообщила, что в прошлом году заблокировала более двух миллионов проблемных заявок на публикацию приложений. Однако Movely в их число не вошло.
Тем временем Пенсильвания криминализировала создание вредоносных дипфейков ещё в 2024 году. В 2025 году один мужчина даже был обвинён по более чем 30 статьям за хранение материалов сексуального насилия над детьми, сгенерированных с помощью ИИ .
Несмотря на такие прецеденты, администрация школы Рэднор, по данным родителей и переписке с педагогами, не смогла адекватно отреагировать на произошедшее. Ситуацию взял под личный контроль губернатор штата Джош Шапиро.