Генеративный ИИ пока не превратил кибератаки в полностью автоматический конвейер, но уже заметно снизил порог входа для начинающих злоумышленников. В новом отчете Meta* сообщила, что почти 92% запросов, которые система Meta AI пометила как потенциально опасные, были связаны с разработкой эксплойтов и другого наступательного инструментария.
Специалисты Meta анализировали подозрительную активность примерно в течение месяца. Запросы на создание троянов удаленного доступа и обратных оболочек встречались примерно в 15% случаев. На программы-вымогатели пришлось всего 1,3%, а запросы, связанные с обходом защитных средств, встречались примерно в 1% случаев. Один запрос мог одновременно попасть в несколько категорий, поэтому показатели не складываются в 100%.
Полученные данные указывают на любопытную особенность. Многие пользователи пытались с помощью ИИ не ускорить уже отлаженные операции, а восполнить собственные пробелы в знаниях. Meta обнаружила злоумышленников, которые не справлялись даже с тем, чтобы получить root-права на Android, но при этом настойчиво пытались заставить модель создавать фишинговые страницы, трояны с инфраструктурой управления и полезные нагрузки Metasploit с инструкциями по запуску.
Чтобы обойти ограничения, пользователи придумывали модели вымышленные роли вроде «DarkForge-X» и «OMEGA-DIOS», а после отказа последовательно меняли приемы взлома защитных механизмов ИИ . Другие злоумышленники приносили уже готовые материалы. Один пользователь дорабатывал с помощью Meta AI поддельные уведомления безопасности, добавляя сведения об устройстве и местоположении жертвы. Другой загрузил сотни строк рабочего кода трояна удаленного доступа и использовал модель как справочник по его настройке.
Meta считает, что генеративный ИИ сейчас чаще работает как доступный технический помощник, а не как источник принципиально новых возможностей. Большая часть подозрительных запросов относится к ранним этапам подготовки. Полностью автоматизировать преступные операции пока мешают задачи, связанные с реальной инфраструктурой, платежами, перемещением денег и координацией людей.
Мошенники при этом уже активно применяют ИИ, чтобы массово создавать профили, изображения и приманки на разных языках. Meta заблокировала сеть из более чем 500 тыс. учетных записей и страниц, которая использовала сгенерированные изображения для поиска жертв мошенничества с подарочными картами. Еще более 575 тыс. преимущественно неактивных аккаунтов создали в Пакистане и, по оценке компании, хранили как заранее «выдержанный» запас для будущих схем.
В апреле инструменты Meta на базе ИИ нашли в нативном коде в четыре раза больше уязвимостей высокой степени опасности, чем традиционные сканеры. С мая по июль ИИ подготовил исправления более чем для 40% наиболее приоритетных проблем. Среднее время, в течение которого критические уязвимости оставались открытыми, сократилось с недель до нескольких дней.
Meta пока считает , что анализировать поведение и связи между учетными записями эффективнее, чем оценивать сам сгенерированный контент. Такой подход позволяет находить мошеннические и вредоносные сети независимо от качества созданных ИИ текстов, изображений и видео. Однако компания предупреждает, что преимущество защитников может сократиться по мере распространения автономных ИИ-агентов, способных самостоятельно планировать и выполнять многоэтапные задачи.
* Компания Meta и её продукты (включая Instagram, Facebook, Threads) признаны экстремистскими, их деятельность запрещена на территории РФ.