Попроси вежливо, и Claude все сделает. Хакер убедил ИИ украсть 150 гигабайт данных
NewsMakerВ сеть утекли данные госслужб Мексики.
Неизвестный злоумышленник использовал чат-бот Claude от компании Anthropic для атак на государственные структуры Мексики и в итоге похитил около 150 ГБ данных. В сеть, по данным расследования, могли уйти налоговые сведения, учётные данные сотрудников и другая служебная информация.
О случившемся сообщило агентство Bloomberg со ссылкой на Gambit Security. По данным компании, атаки начались в декабре и продолжались примерно месяц. Хакер использовал Claude, чтобы искать уязвимости в государственных сетях, писать сценарии для их эксплуатации и продумывать автоматизацию кражи данных.
Изначально чат-бот отказывался выполнять вредоносные запросы, но злоумышленник сумел обойти встроенные ограничения с помощью специальных формулировок. В результате Claude подготовил тысячи подробных отчётов с готовыми к исполнению планами. В них, как утверждают в Gambit Security, указывались конкретные внутренние цели и учётные данные, которые стоило использовать для дальнейшего продвижения по сети.
В Anthropic заявили, что проверили информацию, пресекли активность и заблокировали все связанные учётные записи. Представитель компании добавил, что новая модель Claude Opus 4.6 получила дополнительные инструменты, которые должны мешать подобному злоупотреблению.
Неизвестный злоумышленник использовал чат-бот Claude от компании Anthropic для атак на государственные структуры Мексики и в итоге похитил около 150 ГБ данных. В сеть, по данным расследования, могли уйти налоговые сведения, учётные данные сотрудников и другая служебная информация.
О случившемся сообщило агентство Bloomberg со ссылкой на Gambit Security. По данным компании, атаки начались в декабре и продолжались примерно месяц. Хакер использовал Claude, чтобы искать уязвимости в государственных сетях, писать сценарии для их эксплуатации и продумывать автоматизацию кражи данных.
Изначально чат-бот отказывался выполнять вредоносные запросы, но злоумышленник сумел обойти встроенные ограничения с помощью специальных формулировок. В результате Claude подготовил тысячи подробных отчётов с готовыми к исполнению планами. В них, как утверждают в Gambit Security, указывались конкретные внутренние цели и учётные данные, которые стоило использовать для дальнейшего продвижения по сети.
В Anthropic заявили, что проверили информацию, пресекли активность и заблокировали все связанные учётные записи. Представитель компании добавил, что новая модель Claude Opus 4.6 получила дополнительные инструменты, которые должны мешать подобному злоупотреблению.