ИИ-сыщики из Discord получили доступ к секретной нейросети Mythos
NewsMakerХакеры использовали открытые данные GitHub для поиска доступа к секретным разработкам
Пока одни компании только тестируют новые системы искусственного интеллекта, другие уже находят к ним обходные пути. У Anthropic возникла неприятная ситуация. Небольшая группа пользователей смогла получить несанкционированный доступ к одной из самых мощных моделей для поиска уязвимостей.
Модель Mythos компания начала осторожно показывать ограниченному кругу партнёров в конце февраля. В тот же день, как утверждают источники , посторонние пользователи проникли в тестовую среду и получили доступ к системе. В компании проверяют сообщение о доступе через инфраструктуру стороннего подрядчика. При этом Anthropic заявила, что следов вмешательства в собственные системы нет, а инцидент, судя по всему, ограничился внешней средой.
Mythos создавали как инструмент, чтобы искать уязвимости в программном обеспечении. Однако, по словам компании, возможности модели настолько высоки, что если её использовать неправильно, она способна ускорить кибератаки. Во время тестов система находила тысячи серьёзных ошибок и уязвимостей нулевого дня в операционных системах и браузерах.
Доступ к модели сейчас получают лишь избранные организации в рамках Project Glasswing . В программе участвуют крупные технологические компании, включая Amazon, Google, Microsoft, Apple и Cisco. Участникам разрешили проверять собственные системы, автоматически находить уязвимости и устанавливать исправления.
Пока одни компании только тестируют новые системы искусственного интеллекта, другие уже находят к ним обходные пути. У Anthropic возникла неприятная ситуация. Небольшая группа пользователей смогла получить несанкционированный доступ к одной из самых мощных моделей для поиска уязвимостей.
Модель Mythos компания начала осторожно показывать ограниченному кругу партнёров в конце февраля. В тот же день, как утверждают источники , посторонние пользователи проникли в тестовую среду и получили доступ к системе. В компании проверяют сообщение о доступе через инфраструктуру стороннего подрядчика. При этом Anthropic заявила, что следов вмешательства в собственные системы нет, а инцидент, судя по всему, ограничился внешней средой.
Mythos создавали как инструмент, чтобы искать уязвимости в программном обеспечении. Однако, по словам компании, возможности модели настолько высоки, что если её использовать неправильно, она способна ускорить кибератаки. Во время тестов система находила тысячи серьёзных ошибок и уязвимостей нулевого дня в операционных системах и браузерах.
Доступ к модели сейчас получают лишь избранные организации в рамках Project Glasswing . В программе участвуют крупные технологические компании, включая Amazon, Google, Microsoft, Apple и Cisco. Участникам разрешили проверять собственные системы, автоматически находить уязвимости и устанавливать исправления.