Создан ИИ-червь, которому не нужен человек. Он распространяется сам — и сам решает, кого атаковать следующим
NewsMakerНикаких секретных разработок — только бесплатная модель из интернета. Именно это и пугает исследователей.
Исследователи показали , что вредоносные программы с ИИ уже можно собрать из доступных моделей. Команда создала экспериментального компьютерного червя, который атакует системы и сам распространяется между устройствами. Прототип запускали только в изолированной виртуальной среде, поэтому реальным компьютерам он не угрожает.
Компьютерный червь отличается от обычного вредоносного файла автономным распространением. Ему не нужно ждать, пока пользователь скачает вложение или вручную запустит заражённую программу. Попав в систему, червь ищет новые цели и пытается перейти дальше по сети. Классические версии действовали по заранее заданному сценарию: разработчик прописывал набор шагов, а вредоносная программа выполняла инструкции.
ИИ меняет эту схему. Модель внутри червя может подстраиваться под среду, искать слабые места и выбирать новый путь атаки, а не просто повторять один и тот же набор действий. Профессор Университета Торонто Дэвид Ли, знакомый с работой, но не участвовавший в исследовании, считает демонстрацию тревожным сигналом для ИБ-шников.
Для эксперимента исследователи не использовали закрытые модели Anthropic или OpenAI. Команда взяла свободно доступную ИИ-модель, которую можно скачать из интернета. Это важная деталь: риск не ограничивается крупнейшими разработчиками и их внутренними правилами безопасности. Даже при жёстких фильтрах в коммерческих сервисах открытые модели могут попасть к людям, которые готовы использовать их не в добрых целях.
Работа опубликована как препринт и пока не прошла рецензирование. Авторы считают, что самоподдерживающиеся киберугрозы на базе ИИ больше нельзя считать абстрактной опасностью. Экспериментальный червь показал принцип: модель может стать частью вредоносного ПО, которое само ищет возможности для дальнейшего распространения.
Риск выходит далеко за рамки отдельных компьютеров. Современная инфраструктура зависит от сетевых систем в водоснабжении, канализации, энергетике, финансовых сервисах, связи, здравоохранении, образовании, логистике, транспорте и работе госструктур. Если ИИ-черви научатся быстро находить и использовать новые уязвимости, под ударом окажутся не только корпоративные сети, но и критическая инфраструктура .
У этой технологии есть и защитная сторона. Те же модели могут анализировать код, находить уязвимости, проверять настройки и ускорять выпуск исправлений. Дэвид Ли сравнивает атаку и защиту с зеркальными процессами: ИИ способен усиливать вредоносные инструменты, но теми же методами можно укреплять оборону.
Исследование показывает, что классических сигнатур и статичных правил обнаружения будет недостаточно против вредоносного ПО, которое меняет поведение по мере распространения. Защитникам нужны системы, способные распознавать не только известный код, но и логику атаки, которая перестраивается под новую среду.
Исследователи показали , что вредоносные программы с ИИ уже можно собрать из доступных моделей. Команда создала экспериментального компьютерного червя, который атакует системы и сам распространяется между устройствами. Прототип запускали только в изолированной виртуальной среде, поэтому реальным компьютерам он не угрожает.
Компьютерный червь отличается от обычного вредоносного файла автономным распространением. Ему не нужно ждать, пока пользователь скачает вложение или вручную запустит заражённую программу. Попав в систему, червь ищет новые цели и пытается перейти дальше по сети. Классические версии действовали по заранее заданному сценарию: разработчик прописывал набор шагов, а вредоносная программа выполняла инструкции.
ИИ меняет эту схему. Модель внутри червя может подстраиваться под среду, искать слабые места и выбирать новый путь атаки, а не просто повторять один и тот же набор действий. Профессор Университета Торонто Дэвид Ли, знакомый с работой, но не участвовавший в исследовании, считает демонстрацию тревожным сигналом для ИБ-шников.
Для эксперимента исследователи не использовали закрытые модели Anthropic или OpenAI. Команда взяла свободно доступную ИИ-модель, которую можно скачать из интернета. Это важная деталь: риск не ограничивается крупнейшими разработчиками и их внутренними правилами безопасности. Даже при жёстких фильтрах в коммерческих сервисах открытые модели могут попасть к людям, которые готовы использовать их не в добрых целях.
Работа опубликована как препринт и пока не прошла рецензирование. Авторы считают, что самоподдерживающиеся киберугрозы на базе ИИ больше нельзя считать абстрактной опасностью. Экспериментальный червь показал принцип: модель может стать частью вредоносного ПО, которое само ищет возможности для дальнейшего распространения.
Риск выходит далеко за рамки отдельных компьютеров. Современная инфраструктура зависит от сетевых систем в водоснабжении, канализации, энергетике, финансовых сервисах, связи, здравоохранении, образовании, логистике, транспорте и работе госструктур. Если ИИ-черви научатся быстро находить и использовать новые уязвимости, под ударом окажутся не только корпоративные сети, но и критическая инфраструктура .
У этой технологии есть и защитная сторона. Те же модели могут анализировать код, находить уязвимости, проверять настройки и ускорять выпуск исправлений. Дэвид Ли сравнивает атаку и защиту с зеркальными процессами: ИИ способен усиливать вредоносные инструменты, но теми же методами можно укреплять оборону.
Исследование показывает, что классических сигнатур и статичных правил обнаружения будет недостаточно против вредоносного ПО, которое меняет поведение по мере распространения. Защитникам нужны системы, способные распознавать не только известный код, но и логику атаки, которая перестраивается под новую среду.