Безупречный иврит и убедительная легенда. Хакеры заставили ChatGPT работать на иранскую разведку
NewsMakerИИ превратил старые приёмы обмана в оружие с новым уровнем точности.
Искусственный интеллект всё чаще становится не только рабочим инструментом для бизнеса и разработчиков, но и помощником для кибергруппировок. По данным Financial Times, иранские хакеры активно используют современные ИИ-модели для ускорения подготовки атак, создания вредоносного ПО и проведения сложных кампаний социальной инженерии.
Как сообщается, ChatGPT , Gemini и другие западные системы искусственного интеллекта помогают злоумышленникам автоматизировать задачи, которые раньше требовали значительных затрат времени. С их помощью создаются фишинговые сообщения на безупречном иврите и арабском языке, анализируются потенциальные уязвимости и разрабатываются более убедительные сценарии обмана жертв.
Специалисты отмечают, что применение ИИ позволило иранским группировкам заметно повысить эффективность операций и увеличить скорость проведения атак. Автоматизация помогает поддерживать постоянное давление на противников в цифровом пространстве, а также выявлять слабые места как в зарубежной, так и во внутренней инфраструктуре.
Особое внимание злоумышленники уделяют созданию правдоподобных вымышленных личностей. Такие аккаунты используются для длительного общения с потенциальными жертвами в США и Израиле. Ранее на завоевание доверия могли уходить недели или даже месяцы, однако современные языковые модели существенно упростили задачу, позволяя поддерживать естественную коммуникацию от имени человека, якобы проживающего в другой стране.
Незадолго до начала конфликта между Ираном и Израилем в конце февраля компания Google зафиксировала использование модели Gemini группировкой APT42 , связанной с иранскими властями. По данным компании, злоумышленники применяли возможности ИИ именно для подготовки операций социальной инженерии.
Во время вооружённого противостояния на Ближнем Востоке власти Объединённых Арабских Эмиратов сообщали о сотнях тысяч кибератак в сутки. Израильские пользователи также столкнулись с масштабными волнами фишинговых писем и сообщений, часть которых содержала предложения о сотрудничестве с иранской разведкой.
Технологические компании пытаются ограничить подобную активность. В OpenAI заявили, что регулярно выявляют и блокируют учётные записи, связанные со злоупотреблением сервисами. Компания также сообщила, что фиксировала попытки использования своих моделей структурами, связанными с Ираном, однако чаще всего речь шла о переводах, исследованиях, отладке кода и помощи в написании скриптов. По утверждению OpenAI, встроенные механизмы защиты не позволяют моделям предоставлять принципиально новые возможности для проведения кибератак.
Несмотря на предпринимаемые меры, специалисты признают, что борьба с подобной активностью напоминает бесконечную гонку. После блокировки одних учётных записей злоумышленники быстро создают новые, продолжая использовать искусственный интеллект для совершенствования своих инструментов и методов.
Искусственный интеллект всё чаще становится не только рабочим инструментом для бизнеса и разработчиков, но и помощником для кибергруппировок. По данным Financial Times, иранские хакеры активно используют современные ИИ-модели для ускорения подготовки атак, создания вредоносного ПО и проведения сложных кампаний социальной инженерии.
Как сообщается, ChatGPT , Gemini и другие западные системы искусственного интеллекта помогают злоумышленникам автоматизировать задачи, которые раньше требовали значительных затрат времени. С их помощью создаются фишинговые сообщения на безупречном иврите и арабском языке, анализируются потенциальные уязвимости и разрабатываются более убедительные сценарии обмана жертв.
Специалисты отмечают, что применение ИИ позволило иранским группировкам заметно повысить эффективность операций и увеличить скорость проведения атак. Автоматизация помогает поддерживать постоянное давление на противников в цифровом пространстве, а также выявлять слабые места как в зарубежной, так и во внутренней инфраструктуре.
Особое внимание злоумышленники уделяют созданию правдоподобных вымышленных личностей. Такие аккаунты используются для длительного общения с потенциальными жертвами в США и Израиле. Ранее на завоевание доверия могли уходить недели или даже месяцы, однако современные языковые модели существенно упростили задачу, позволяя поддерживать естественную коммуникацию от имени человека, якобы проживающего в другой стране.
Незадолго до начала конфликта между Ираном и Израилем в конце февраля компания Google зафиксировала использование модели Gemini группировкой APT42 , связанной с иранскими властями. По данным компании, злоумышленники применяли возможности ИИ именно для подготовки операций социальной инженерии.
Во время вооружённого противостояния на Ближнем Востоке власти Объединённых Арабских Эмиратов сообщали о сотнях тысяч кибератак в сутки. Израильские пользователи также столкнулись с масштабными волнами фишинговых писем и сообщений, часть которых содержала предложения о сотрудничестве с иранской разведкой.
Технологические компании пытаются ограничить подобную активность. В OpenAI заявили, что регулярно выявляют и блокируют учётные записи, связанные со злоупотреблением сервисами. Компания также сообщила, что фиксировала попытки использования своих моделей структурами, связанными с Ираном, однако чаще всего речь шла о переводах, исследованиях, отладке кода и помощи в написании скриптов. По утверждению OpenAI, встроенные механизмы защиты не позволяют моделям предоставлять принципиально новые возможности для проведения кибератак.
Несмотря на предпринимаемые меры, специалисты признают, что борьба с подобной активностью напоминает бесконечную гонку. После блокировки одних учётных записей злоумышленники быстро создают новые, продолжая использовать искусственный интеллект для совершенствования своих инструментов и методов.