Ошибка 16-летней давности, которую не видел никто. ИИ просто прочитал код и все понял (в отличие от людей)
NewsMakerНовая нейросеть ломает Linux лучше профи, поэтому ее решили спрятать подальше.
Anthropic объявила о запуске Project Glasswing, крупной инициативы по защите критически важного программного обеспечения. В проект вошли Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA и Palo Alto Networks. Поводом стал новый ещё не выпущенный языковой модельный комплекс Claude Mythos Preview, который, по словам компании, уже умеет искать и использовать уязвимости лучше, чем почти любой человек, кроме самых сильных специалистов.
Anthropic утверждает, что Claude Mythos Preview уже нашла тысячи опасных уязвимостей, включая ошибки в крупных операционных системах и веб-браузерах. Компания считает, что развитие таких систем идёт слишком быстро, а значит, похожие возможности скоро могут получить и злоумышленники. Последствия Anthropic описывает жёстко: рост числа атак, ущерб для экономики, риски для общественной безопасности и национальной безопасности.
Project Glasswing создали как попытку направить такие возможности в защиту, а не в нападение. Участники проекта будут использовать Claude Mythos Preview для оборонительных задач, а Anthropic пообещала делиться выводами с отраслью. Доступ к модели получили не только компании-участники, но и более 40 дополнительных организаций, которые разрабатывают или поддерживают важные программные и инфраструктурные системы, включая проекты с открытым исходным кодом. На работу в рамках инициативы Anthropic выделила до 100 млн долларов в виде кредитов на использование модели, а ещё 4 млн долларов направит напрямую организациям, которые занимаются безопасностью открытого программного обеспечения.
Компания описывает ситуацию как переломный момент для всей отрасли. Программное обеспечение, на котором держатся банковские системы, медицинские базы, логистические сети и электросети, всегда содержало ошибки. Многие сбои остаются незаметными годами, потому что поиск и эксплуатация таких проблем требовали очень высокой квалификации. Anthropic пишет, что современные языковые модели резко снизили порог входа и теперь умеют не только читать код, но и понимать, где скрываются уязвимости и как их можно использовать на практике.
Anthropic объявила о запуске Project Glasswing, крупной инициативы по защите критически важного программного обеспечения. В проект вошли Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, NVIDIA и Palo Alto Networks. Поводом стал новый ещё не выпущенный языковой модельный комплекс Claude Mythos Preview, который, по словам компании, уже умеет искать и использовать уязвимости лучше, чем почти любой человек, кроме самых сильных специалистов.
Anthropic утверждает, что Claude Mythos Preview уже нашла тысячи опасных уязвимостей, включая ошибки в крупных операционных системах и веб-браузерах. Компания считает, что развитие таких систем идёт слишком быстро, а значит, похожие возможности скоро могут получить и злоумышленники. Последствия Anthropic описывает жёстко: рост числа атак, ущерб для экономики, риски для общественной безопасности и национальной безопасности.
Project Glasswing создали как попытку направить такие возможности в защиту, а не в нападение. Участники проекта будут использовать Claude Mythos Preview для оборонительных задач, а Anthropic пообещала делиться выводами с отраслью. Доступ к модели получили не только компании-участники, но и более 40 дополнительных организаций, которые разрабатывают или поддерживают важные программные и инфраструктурные системы, включая проекты с открытым исходным кодом. На работу в рамках инициативы Anthropic выделила до 100 млн долларов в виде кредитов на использование модели, а ещё 4 млн долларов направит напрямую организациям, которые занимаются безопасностью открытого программного обеспечения.
Компания описывает ситуацию как переломный момент для всей отрасли. Программное обеспечение, на котором держатся банковские системы, медицинские базы, логистические сети и электросети, всегда содержало ошибки. Многие сбои остаются незаметными годами, потому что поиск и эксплуатация таких проблем требовали очень высокой квалификации. Anthropic пишет, что современные языковые модели резко снизили порог входа и теперь умеют не только читать код, но и понимать, где скрываются уязвимости и как их можно использовать на практике.