Хакеры скоро получат идеальное оружие. Apple и Google натравили ИИ на собственный код, чтобы спасти интернет
NewsMakerПроект Glasswing: разработчики спешно укрепляют серверы, пока мир не захватили боевые нейросети.
Крупнейшие ИТ–компании решили заранее занять оборону в новой фазе кибервойны , где уязвимости в коде начинают искать уже не люди, а очень сильные ИИ–модели. Для этого Amazon Web Services, Anthropic, Apple, Google, Microsoft, NVIDIA и ещё ряд участников запустили Project Glasswing – инициативу , которая должна помочь защитить критически важное ПО до того, как похожие инструменты массово окажутся в руках атакующих.
Повод у проекта вполне конкретный. Внутренние испытания новой модели Anthropic под названием Claude Mythos Preview показали, что она умеет находить и использовать программные уязвимости на уровне, который уже превосходит почти всех людей, кроме самых сильных специалистов по этой теме. По данным компании, модель уже выявила тысячи серьёзных проблем в широко используемых системах, включая крупные операционные системы и веб–браузеры. Для отрасли это выглядит как очень неприятный сигнал: инструменты такого класса перестают быть далёкой теорией и начинают влиять на реальную безопасность.
В Anthropic и компаниях–партнёрах считают, что рубеж уже пройден. Если раньше подобные возможности выглядели как что–то экспериментальное, то теперь речь идёт о моменте, когда ИИ может резко снизить порог входа в кибератаки , увеличить их масштаб и сделать их сложнее. Главная тревога связана с тем, что такие возможности довольно скоро могут выйти за пределы контролируемой среды и начать распространяться шире, в том числе среди тех, кто не собирается использовать их осторожно.
Project Glasswing строится на довольно прямой идее: использовать наступательные возможности ИИ в оборонительных целях. Участники проекта будут применять модель для поиска слабых мест, тестирования систем и устранения найденных дыр до того, как ими воспользуется кто–то другой. В фокусе – поиск уязвимостей, тесты на проникновение, защита конечных точек и дополнительное укрепление программных систем. Отдельно оговаривается и обмен результатами между участниками, чтобы выводы не оставались внутри одной компании, а усиливали защиту во всей отрасли.
Крупнейшие ИТ–компании решили заранее занять оборону в новой фазе кибервойны , где уязвимости в коде начинают искать уже не люди, а очень сильные ИИ–модели. Для этого Amazon Web Services, Anthropic, Apple, Google, Microsoft, NVIDIA и ещё ряд участников запустили Project Glasswing – инициативу , которая должна помочь защитить критически важное ПО до того, как похожие инструменты массово окажутся в руках атакующих.
Повод у проекта вполне конкретный. Внутренние испытания новой модели Anthropic под названием Claude Mythos Preview показали, что она умеет находить и использовать программные уязвимости на уровне, который уже превосходит почти всех людей, кроме самых сильных специалистов по этой теме. По данным компании, модель уже выявила тысячи серьёзных проблем в широко используемых системах, включая крупные операционные системы и веб–браузеры. Для отрасли это выглядит как очень неприятный сигнал: инструменты такого класса перестают быть далёкой теорией и начинают влиять на реальную безопасность.
В Anthropic и компаниях–партнёрах считают, что рубеж уже пройден. Если раньше подобные возможности выглядели как что–то экспериментальное, то теперь речь идёт о моменте, когда ИИ может резко снизить порог входа в кибератаки , увеличить их масштаб и сделать их сложнее. Главная тревога связана с тем, что такие возможности довольно скоро могут выйти за пределы контролируемой среды и начать распространяться шире, в том числе среди тех, кто не собирается использовать их осторожно.
Project Glasswing строится на довольно прямой идее: использовать наступательные возможности ИИ в оборонительных целях. Участники проекта будут применять модель для поиска слабых мест, тестирования систем и устранения найденных дыр до того, как ими воспользуется кто–то другой. В фокусе – поиск уязвимостей, тесты на проникновение, защита конечных точек и дополнительное укрепление программных систем. Отдельно оговаривается и обмен результатами между участниками, чтобы выводы не оставались внутри одной компании, а усиливали защиту во всей отрасли.