Терминатор может спать спокойно. Мировые державы не смогли договориться о контроле над военным ИИ
NewsMakerБольшинство стран мира побоялись брать на себя обязательства по военному ИИ.
На саммите Responsible AI in the Military Domain (REAIM), который прошел в испанской Ла-Корунье пятого февраля, только 35 стран из 85 участников поддержали декларацию о том, как следует управлять применением искусственного интеллекта в военной сфере. Две крупнейшие военные державы, США и Китай, к документу не присоединились.
По словам участников и делегатов, на готовность стран подписывать совместные соглашения повлияли напряженность между Соединенными Штатами и европейскими союзниками, а также неопределенность относительно того, какими будут трансатлантические отношения в ближайшие месяцы и годы. На фоне этого часть государств предпочла не брать на себя даже политические обязательства.
Сама декларация отражает растущую тревогу: развитие ИИ идет настолько быстро, что правила его военного использования могут не успевать, а это повышает риск аварий, ошибочных расчетов и непреднамеренной эскалации. Министр обороны Нидерландов Рубен Брекельманс описал ситуацию как «дилемму заключенного»: правительствам нужно вводить ответственные ограничения, но одновременно они боятся оказаться в худшем положении по сравнению с потенциальными противниками. Он отметил, что Россия и Китай, по его словам, продвигаются очень быстро, и это одновременно подталкивает к ускорению разработок и усиливает необходимость работать над ответственным применением таких систем.
Подписавшие документ страны согласились с набором из 20 принципов. Среди них закрепляется идея человеческой ответственности за применение оружия с ИИ, подчеркивается важность четких цепочек командования и управления, а также предлагается обмениваться информацией о национальных механизмах надзора в тех случаях, когда это не противоречит требованиям национальной безопасности. Также отдельно отмечены необходимость оценки рисков, надежного тестирования и обучения персонала, который будет работать с военными ИИ-возможностями.
По словам участников и делегатов, на готовность стран подписывать совместные соглашения повлияли напряженность между Соединенными Штатами и европейскими союзниками, а также неопределенность относительно того, какими будут трансатлантические отношения в ближайшие месяцы и годы. На фоне этого часть государств предпочла не брать на себя даже политические обязательства.
Сама декларация отражает растущую тревогу: развитие ИИ идет настолько быстро, что правила его военного использования могут не успевать, а это повышает риск аварий, ошибочных расчетов и непреднамеренной эскалации. Министр обороны Нидерландов Рубен Брекельманс описал ситуацию как «дилемму заключенного»: правительствам нужно вводить ответственные ограничения, но одновременно они боятся оказаться в худшем положении по сравнению с потенциальными противниками. Он отметил, что Россия и Китай, по его словам, продвигаются очень быстро, и это одновременно подталкивает к ускорению разработок и усиливает необходимость работать над ответственным применением таких систем.
Подписавшие документ страны согласились с набором из 20 принципов. Среди них закрепляется идея человеческой ответственности за применение оружия с ИИ, подчеркивается важность четких цепочек командования и управления, а также предлагается обмениваться информацией о национальных механизмах надзора в тех случаях, когда это не противоречит требованиям национальной безопасности. Также отдельно отмечены необходимость оценки рисков, надежного тестирования и обучения персонала, который будет работать с военными ИИ-возможностями.