Сбой или взлом крупной системы искусственного интеллекта в будущем может одновременно ударить по банкам, энергетике, государственным службам и другим важным отраслям США. Организация Americans for Responsible Innovation предложила властям страны признать инфраструктуру ИИ отдельным сектором критической инфраструктуры и поручить ее защиту Агентству по кибербезопасности и защите инфраструктуры США.
Авторы нового доклада считают, что ИИ уже превратился в основу многих государственных и коммерческих систем, однако пока не получил соответствующего статуса. Из-за этого отрасль не охвачена в полном объеме механизмами, которые позволяют обмениваться данными об угрозах, координировать действия государства и бизнеса, картировать важнейшие объекты, а также едиными требованиями к защите.
К инфраструктуре ИИ авторы относят разработчиков передовых моделей, параметры обученных моделей, системы их оценки и настройки, специализированное программное обеспечение, центры обработки данных, вычислительное оборудование, производство полупроводников и платформы, через которые модели предоставляются пользователям. Отдельно учитываются тесные связи с энергетикой, связью, информационными технологиями, финансовой системой, водоснабжением и транспортом.
Главным риском специалисты называют высокую концентрацию рынка. Несколько базовых моделей используются во множестве сторонних продуктов, поэтому компрометация одной из них способна распространить последствия сразу на большое число систем. Среди других угроз названы отравление обучающих данных, внедрение вредоносных инструкций, кража параметров моделей, копирование их возможностей через многочисленные запросы, диверсии в цепочках поставок микросхем и атаки на центры обработки данных.
Американские власти уже рассматривают промышленное копирование передовых моделей как угрозу национальной безопасности. В апрельском меморандуме Белый дом предупредил о масштабных кампаниях по извлечению возможностей американских моделей и поручил федеральным ведомствам усилить обмен информацией с частными компаниями.
Сейчас в США официально выделено 16 секторов критической инфраструктуры . Авторы доклада предлагают добавить к ним ИИ, назначить для него ответственное федеральное ведомство, определить системно значимые компании и разработать единые требования к физической, кадровой и кибербезопасности центров обработки данных.
В качестве ведущего ведомства предлагается Агентство по кибербезопасности и защите инфраструктуры США (CISA). Организация также предлагает вместе с Национальным институтом стандартов и технологий классифицировать системы ИИ по возможному ущербу, а Конгрессу выделить средства на разработку новых технологий защиты. Если компании получат статус критической инфраструктуры, на них также может распространиться действие американского закона , обязывающего уведомлять о серьезных киберинцидентах.