Старые разводы на новый лад. ИИ стал лучшим другом телефонных мошенников
NewsMakerOpenAI опубликовала отчет о работе мошенников и пропагандистов с языковыми моделями.
Мошенники, пропагандисты и силовики всё чаще используют языковые модели не для развлечений, а для выкачивания денег и влияния на общественное мнение. В новом отчёте OpenAI подробно разобрала десятки таких случаев и показала, как злоумышленники встраивают искусственный интеллект в уже знакомые схемы.
Одна из самых показательных историй получила название Operation Date Bait. Сеть аккаунтов, предположительно связанная с мошенническими центрами в Камбодже, рекламировала в социальных сетях фиктивное элитное агентство знакомств «Klub Romantis». Рекламу нацеливали на молодых мужчин в Индонезии, интересующихся гольфом, яхтами и роскошной жизнью. После клика жертва попадала к чат-боту в роли «секретаря», затем общение переводили в Telegram, где подключались живые операторы. Они убеждали оплатить «миссии», «VIP-карты» и поддержку выбранной девушки, а в финале требовали крупный платёж под видом «компенсации» или «проверочного депозита». По данным отчёта, злоумышленники параллельно вели внутреннюю отчётность и даже рассчитывали для каждой жертвы предполагаемую максимальную сумму, которую можно «выжать».
Похожим образом работала схема Operation False Witness. Участники выдавали себя за юристов и сотрудников американских ведомств, включая подразделение ФБР по приёму жалоб на интернет-преступления. Они предлагали вернуть деньги, потерянные в других аферах, и требовали заранее оплатить «сервисный сбор» в размере 15% или внести депозит. Модели использовали для написания сообщений «в юридическом стиле», перевода переписки и создания поддельных документов, включая фиктивные членские билеты коллегий адвокатов.
Отдельный блок отчёта посвящён операциям влияния . В кейсе Silver Lining Playbook аккаунты, вероятно действовавшие из Китая, готовили письма американским чиновникам и аналитикам от имени вымышленной консалтинговой фирмы. Авторы просили помочь составить краткие и убедительные письма с элементами психологического давления и приглашением к «консультациям». Параллельно они интересовались расположением федеральных зданий в США и программами для подмены лиц на видео. Признаков того, что адресаты ответили на такие письма, компания не обнаружила.
Мошенники, пропагандисты и силовики всё чаще используют языковые модели не для развлечений, а для выкачивания денег и влияния на общественное мнение. В новом отчёте OpenAI подробно разобрала десятки таких случаев и показала, как злоумышленники встраивают искусственный интеллект в уже знакомые схемы.
Одна из самых показательных историй получила название Operation Date Bait. Сеть аккаунтов, предположительно связанная с мошенническими центрами в Камбодже, рекламировала в социальных сетях фиктивное элитное агентство знакомств «Klub Romantis». Рекламу нацеливали на молодых мужчин в Индонезии, интересующихся гольфом, яхтами и роскошной жизнью. После клика жертва попадала к чат-боту в роли «секретаря», затем общение переводили в Telegram, где подключались живые операторы. Они убеждали оплатить «миссии», «VIP-карты» и поддержку выбранной девушки, а в финале требовали крупный платёж под видом «компенсации» или «проверочного депозита». По данным отчёта, злоумышленники параллельно вели внутреннюю отчётность и даже рассчитывали для каждой жертвы предполагаемую максимальную сумму, которую можно «выжать».
Похожим образом работала схема Operation False Witness. Участники выдавали себя за юристов и сотрудников американских ведомств, включая подразделение ФБР по приёму жалоб на интернет-преступления. Они предлагали вернуть деньги, потерянные в других аферах, и требовали заранее оплатить «сервисный сбор» в размере 15% или внести депозит. Модели использовали для написания сообщений «в юридическом стиле», перевода переписки и создания поддельных документов, включая фиктивные членские билеты коллегий адвокатов.
Отдельный блок отчёта посвящён операциям влияния . В кейсе Silver Lining Playbook аккаунты, вероятно действовавшие из Китая, готовили письма американским чиновникам и аналитикам от имени вымышленной консалтинговой фирмы. Авторы просили помочь составить краткие и убедительные письма с элементами психологического давления и приглашением к «консультациям». Параллельно они интересовались расположением федеральных зданий в США и программами для подмены лиц на видео. Признаков того, что адресаты ответили на такие письма, компания не обнаружила.