Без паролей и два часа времени. ИИ научился самостоятельно взламывать другие ИИ-системы
NewsMakerСпециалисты CodeWall получили доступ к 46 миллионам сообщений сотрудников McKinsey.
Автономный агент на базе искусственного интеллекта взломал внутреннюю платформу искусственного интеллекта консалтинговой компании McKinsey & Company всего за два часа. Атаку провела команда стартапа CodeWall, которая проверяет безопасность компаний методами « красной команды ». Агент самостоятельно выбрал цель, нашёл уязвимость и получил полный доступ к системе.
McKinsey запустила собственную генеративную платформу искусственного интеллекта под названием Lilli в июле 2023 года. Чат-бот быстро стал частью внутренней работы компании. По данным McKinsey, Lilli используют 72% сотрудников – более 40 тысяч человек. Система обрабатывает свыше 500 тысяч запросов в месяц.
Специалисты CodeWall применяют автономных агентов , которые постоянно атакуют инфраструктуру клиентов и таким образом помогают находить слабые места в защите. Один из таких агентов предложил проверить системы McKinsey. Причиной стала опубликованная политика ответственного раскрытия уязвимостей и недавние обновления Lilli. После этого специалисты направили на платформу автономный инструмент для наступательного тестирования. Никаких учётных данных McKinsey у агента не было.
Через два часа после начала проверки агент получил полный доступ на чтение и запись к рабочей базе данных. Система позволила увидеть около 46,5 млн сообщений из чатов, где сотрудники обсуждали стратегию, сделки слияний и поглощений и проекты клиентов. Сообщения хранились в открытом виде. Агент также получил доступ к 728 тысячам файлов с конфиденциальными данными клиентов, 57 тысячам учётных записей пользователей и 95 системным подсказкам, которые управляют поведением искусственного интеллекта.
Автономный агент на базе искусственного интеллекта взломал внутреннюю платформу искусственного интеллекта консалтинговой компании McKinsey & Company всего за два часа. Атаку провела команда стартапа CodeWall, которая проверяет безопасность компаний методами « красной команды ». Агент самостоятельно выбрал цель, нашёл уязвимость и получил полный доступ к системе.
McKinsey запустила собственную генеративную платформу искусственного интеллекта под названием Lilli в июле 2023 года. Чат-бот быстро стал частью внутренней работы компании. По данным McKinsey, Lilli используют 72% сотрудников – более 40 тысяч человек. Система обрабатывает свыше 500 тысяч запросов в месяц.
Специалисты CodeWall применяют автономных агентов , которые постоянно атакуют инфраструктуру клиентов и таким образом помогают находить слабые места в защите. Один из таких агентов предложил проверить системы McKinsey. Причиной стала опубликованная политика ответственного раскрытия уязвимостей и недавние обновления Lilli. После этого специалисты направили на платформу автономный инструмент для наступательного тестирования. Никаких учётных данных McKinsey у агента не было.
Через два часа после начала проверки агент получил полный доступ на чтение и запись к рабочей базе данных. Система позволила увидеть около 46,5 млн сообщений из чатов, где сотрудники обсуждали стратегию, сделки слияний и поглощений и проекты клиентов. Сообщения хранились в открытом виде. Агент также получил доступ к 728 тысячам файлов с конфиденциальными данными клиентов, 57 тысячам учётных записей пользователей и 95 системным подсказкам, которые управляют поведением искусственного интеллекта.