Идеальное ограбление. Пекин крадет интеллект США, не заходя в серверные
NewsMakerВ центре нового конфликта оказалась дистилляция, которая позволяет строить конкурентов на ответах чужих систем.
Белый дом обвинил китайских игроков в систематических попытках «выжать» ключевые возможности из американских передовых ИИ-моделей. По версии Вашингтона, речь идет не о разовых экспериментах, а о масштабной и хорошо организованной кампании, которая позволяет получать ценную интеллектуальную собственность без прямого доступа к исходным системам.
Заявление прозвучало в неудобный момент. Уже через несколько недель Дональд Трамп, как ожидается, встретится в Пекине с председателем КНР Си Цзиньпином, и новый виток спора вокруг искусственного интеллекта рискует превратиться в одну из самых острых тем предстоящих переговоров.
Детали обвинений изложил директор Управления по науке и технологической политике Белого дома Майкл Крациос. В служебной записке для федеральных ведомств Крациос написал, что у правительства США есть данные о деятельности иностранных структур, главным образом связанных с Китаем, которые ведут целенаправленные кампании промышленного масштаба по «дистилляции» американских передовых ИИ-систем.
Смысл такой схемы сводится к огромному числу запросов к чужой модели. Атакующие создают прокси-аккаунты, чтобы не попасть под блокировки, затем проверяют поведение системы на самых разных формулировках и применяют методы обхода ограничений, чтобы вытянуть закрытые или служебные ответы. После миллионов таких обращений можно собрать большой массив данных и понять, как модель реагирует на те или иные команды.
Белый дом обвинил китайских игроков в систематических попытках «выжать» ключевые возможности из американских передовых ИИ-моделей. По версии Вашингтона, речь идет не о разовых экспериментах, а о масштабной и хорошо организованной кампании, которая позволяет получать ценную интеллектуальную собственность без прямого доступа к исходным системам.
Заявление прозвучало в неудобный момент. Уже через несколько недель Дональд Трамп, как ожидается, встретится в Пекине с председателем КНР Си Цзиньпином, и новый виток спора вокруг искусственного интеллекта рискует превратиться в одну из самых острых тем предстоящих переговоров.
Детали обвинений изложил директор Управления по науке и технологической политике Белого дома Майкл Крациос. В служебной записке для федеральных ведомств Крациос написал, что у правительства США есть данные о деятельности иностранных структур, главным образом связанных с Китаем, которые ведут целенаправленные кампании промышленного масштаба по «дистилляции» американских передовых ИИ-систем.
Смысл такой схемы сводится к огромному числу запросов к чужой модели. Атакующие создают прокси-аккаунты, чтобы не попасть под блокировки, затем проверяют поведение системы на самых разных формулировках и применяют методы обхода ограничений, чтобы вытянуть закрытые или служебные ответы. После миллионов таких обращений можно собрать большой массив данных и понять, как модель реагирует на те или иные команды.
Мы в MAX. Простите. Читайте нас хотя бы там.
Дальше в ход идет дистилляция, один из самых чувствительных для отрасли приемов. Более компактную модель обучают на ответах крупной и дорогой системы, в результате чего разработчик-конкурент получает похожие возможности с куда меньшими затратами. По оценке Белого дома, такой подход позволяет использовать американские достижения, не тратя годы и огромные деньги на создание собственных передовых моделей.
В Вашингтоне опасаются не только утечки возможностей, но и разрушения защитных механизмов. Чиновники считают, что подобные кампании могут ослаблять встроенные барьеры, которые должны удерживать модель в рамках безопасных и контролируемых ответов. Иными словами, речь идет уже не просто о копировании результатов, а о риске переноса поведения системы без тех ограничений, которые закладывали создатели.
Посольство Китая в Вашингтоне обвинения отвергло. Китайская сторона назвала заявления беспочвенными и заявила, что Пекин придает большое значение защите прав интеллектуальной собственности.
Новый спор может еще сильнее обострить технологическое противостояние США и Китая. Вопрос уже выходит далеко за пределы лабораторий и затрагивает решения по поставкам передовых чипов, в том числе продукции NVIDIA. Администрация США ранее разрешила условные продажи, но поставки, по словам чиновников, пока не начались.
Американские компании в сфере ИИ в последние месяцы тоже жаловались на схожие попытки. OpenAI и Anthropic сообщали о масштабных атаках с признаками дистилляции и связывали такую активность с китайскими фирмами, включая DeepSeek, Moonshot AI и MiniMax. Параллельно США продолжают и уголовное преследование по делам, связанным с утечкой ИИ-разработок. В 2024 году американские прокуроры предъявили обвинения бывшему инженеру Google, которого заподозрили в краже коммерческих тайн в области ИИ и передаче материалов китайским компаниям.
При этом Крациос усомнился , что скопированные модели останутся эффективными надолго. По мнению чиновника, по мере развития защитных технологий выявлять такие схемы станет проще, а модели, собранные на базе «выжатых» возможностей, начнут быстрее терять ценность. Белый дом уже заявил, что намерен делиться разведданными с американскими ИИ-компаниями и искать способы привлечь виновных к ответственности.
На фоне этих заявлений соперничество США и Китая в области искусственного интеллекта переходит в еще более жесткую фазу. Если раньше борьба шла за чипы, инвестиции и кадры, теперь в центре конфликта оказались сами модели, их поведение и способность государств защитить результаты самых дорогих технологических разработок.
В Вашингтоне опасаются не только утечки возможностей, но и разрушения защитных механизмов. Чиновники считают, что подобные кампании могут ослаблять встроенные барьеры, которые должны удерживать модель в рамках безопасных и контролируемых ответов. Иными словами, речь идет уже не просто о копировании результатов, а о риске переноса поведения системы без тех ограничений, которые закладывали создатели.
Посольство Китая в Вашингтоне обвинения отвергло. Китайская сторона назвала заявления беспочвенными и заявила, что Пекин придает большое значение защите прав интеллектуальной собственности.
Новый спор может еще сильнее обострить технологическое противостояние США и Китая. Вопрос уже выходит далеко за пределы лабораторий и затрагивает решения по поставкам передовых чипов, в том числе продукции NVIDIA. Администрация США ранее разрешила условные продажи, но поставки, по словам чиновников, пока не начались.
Американские компании в сфере ИИ в последние месяцы тоже жаловались на схожие попытки. OpenAI и Anthropic сообщали о масштабных атаках с признаками дистилляции и связывали такую активность с китайскими фирмами, включая DeepSeek, Moonshot AI и MiniMax. Параллельно США продолжают и уголовное преследование по делам, связанным с утечкой ИИ-разработок. В 2024 году американские прокуроры предъявили обвинения бывшему инженеру Google, которого заподозрили в краже коммерческих тайн в области ИИ и передаче материалов китайским компаниям.
При этом Крациос усомнился , что скопированные модели останутся эффективными надолго. По мнению чиновника, по мере развития защитных технологий выявлять такие схемы станет проще, а модели, собранные на базе «выжатых» возможностей, начнут быстрее терять ценность. Белый дом уже заявил, что намерен делиться разведданными с американскими ИИ-компаниями и искать способы привлечь виновных к ответственности.
На фоне этих заявлений соперничество США и Китая в области искусственного интеллекта переходит в еще более жесткую фазу. Если раньше борьба шла за чипы, инвестиции и кадры, теперь в центре конфликта оказались сами модели, их поведение и способность государств защитить результаты самых дорогих технологических разработок.