Ваш диалог с ChatGPT теперь — улика. OpenAI впервые "сдала" пользователя властям
NewsMakerСтихи от ChatGPT привели ФБР к администратору даркнета.
Федеральное ведомство внутренней безопасности США впервые потребовало от OpenAI раскрыть личность пользователя ChatGPT, чьи запросы фигурировали в расследовании по делу о детской порнографии. Ордер, выданный следователям Homeland Security Investigations (HSI) и опубликованный после рассекречивания в штате Мэн, стал первым известным случаем, когда власти официально обратились к разработчику генеративного ИИ с требованием выдать данные о конкретных промптах.
Расследование началось с попыток установить администратора крупного сайта в тёмном сегменте сети Tor , распространявшего CSAM-материалы. Агентам под прикрытием удалось вступить в контакт с предполагаемым администратором, который случайно упомянул, что пользуется ChatGPT. В ходе общения он рассказал, какие именно запросы вводил, включая безобидные темы вроде «Что произойдёт, если Шерлок Холмс встретится с Кью из "Звёздного пути"». В другой беседе он описал, как получил от модели стих в стиле Дональда Трампа о песне Y.M.C.A. из репертуара Village People и даже вставил его фрагмент в переписку.
Эти детали позволили следствию подать запрос в OpenAI, требуя сведения об аккаунте: имена и адреса, платёжную информацию, историю диалогов и метаданные, связанные с введёнными промптами. Позднее ведомство подтвердило, что компания передала агентам один Excel-файл, однако содержание документа не раскрывается. Неясно, помогли ли данные OpenAI напрямую в установлении личности подозреваемого, но ордер зафиксировал прецедент — использование промптов ChatGPT как основания для поиска пользователей.
Впрочем, определить фигуранта дела следователям удалось не за счёт данных OpenAI, а благодаря деталям, которыми он делился сам. Мужчина рассказывал о прохождении медосмотров, упоминал семилетнее проживание в Германии и службу отца в Афганистане. Эти сведения позволили агентам выйти на 36-летнего Дрю Хённера, связанного с авиабазой Рамштайн и подававшего документы на работу в Министерство обороны США. Ему предъявлено обвинение в сговоре с целью рекламы CSAM-материалов, однако признания вины он пока не дал.
По данным следствия, Хённер с 2019 года участвовал в управлении не менее чем 15 форумами в сети Tor, посвящёнными обмену запрещёнными материалами. Совокупная аудитория площадок превышала 300 000 пользователей. Структура сайтов напоминала иерархическую систему с администраторами, модераторами и «наградами» для наиболее активных участников. На одном из форумов существовал отдельный раздел, предположительно созданный для публикации контента, сгенерированного искусственным интеллектом .
Из отчёта OpenAI следует, что только за второе полугодие 2024 года она зафиксировала 31 500 случаев обнаружения контента, связанного с эксплуатацией детей, и передала соответствующие уведомления в Национальный центр пропавших и эксплуатируемых детей (NCMEC). За тот же период OpenAI получила 71 официальный запрос от государственных органов, в результате чего предоставила данные по 132 аккаунтам.
Федеральное ведомство внутренней безопасности США впервые потребовало от OpenAI раскрыть личность пользователя ChatGPT, чьи запросы фигурировали в расследовании по делу о детской порнографии. Ордер, выданный следователям Homeland Security Investigations (HSI) и опубликованный после рассекречивания в штате Мэн, стал первым известным случаем, когда власти официально обратились к разработчику генеративного ИИ с требованием выдать данные о конкретных промптах.
Расследование началось с попыток установить администратора крупного сайта в тёмном сегменте сети Tor , распространявшего CSAM-материалы. Агентам под прикрытием удалось вступить в контакт с предполагаемым администратором, который случайно упомянул, что пользуется ChatGPT. В ходе общения он рассказал, какие именно запросы вводил, включая безобидные темы вроде «Что произойдёт, если Шерлок Холмс встретится с Кью из "Звёздного пути"». В другой беседе он описал, как получил от модели стих в стиле Дональда Трампа о песне Y.M.C.A. из репертуара Village People и даже вставил его фрагмент в переписку.
Эти детали позволили следствию подать запрос в OpenAI, требуя сведения об аккаунте: имена и адреса, платёжную информацию, историю диалогов и метаданные, связанные с введёнными промптами. Позднее ведомство подтвердило, что компания передала агентам один Excel-файл, однако содержание документа не раскрывается. Неясно, помогли ли данные OpenAI напрямую в установлении личности подозреваемого, но ордер зафиксировал прецедент — использование промптов ChatGPT как основания для поиска пользователей.
Впрочем, определить фигуранта дела следователям удалось не за счёт данных OpenAI, а благодаря деталям, которыми он делился сам. Мужчина рассказывал о прохождении медосмотров, упоминал семилетнее проживание в Германии и службу отца в Афганистане. Эти сведения позволили агентам выйти на 36-летнего Дрю Хённера, связанного с авиабазой Рамштайн и подававшего документы на работу в Министерство обороны США. Ему предъявлено обвинение в сговоре с целью рекламы CSAM-материалов, однако признания вины он пока не дал.
По данным следствия, Хённер с 2019 года участвовал в управлении не менее чем 15 форумами в сети Tor, посвящёнными обмену запрещёнными материалами. Совокупная аудитория площадок превышала 300 000 пользователей. Структура сайтов напоминала иерархическую систему с администраторами, модераторами и «наградами» для наиболее активных участников. На одном из форумов существовал отдельный раздел, предположительно созданный для публикации контента, сгенерированного искусственным интеллектом .
Из отчёта OpenAI следует, что только за второе полугодие 2024 года она зафиксировала 31 500 случаев обнаружения контента, связанного с эксплуатацией детей, и передала соответствующие уведомления в Национальный центр пропавших и эксплуатируемых детей (NCMEC). За тот же период OpenAI получила 71 официальный запрос от государственных органов, в результате чего предоставила данные по 132 аккаунтам.