Еще не протестуешь, но уже в списке. Geedge создает профиль будущего «врага» государства
NewsMakerКитайский ИИ ищет преступника до преступления.
Китайская компания Geedge Networks разрабатывала систему, которая должна не просто следить за недовольными гражданами, а заранее вычислять людей, способных выступить против властей, пишет The New York Times. По замыслу разработчиков, такая технология могла бы определять граждан, которые еще не совершили публичных действий, но, по оценке алгоритмов, могут в будущем участвовать в протестах, критиковать власть или поддерживать оппозиционную активность.
Geedge Networks продает коммерческую версию Великого китайского файрвола, системы интернет-фильтрации и слежки, которую Китай использует для контроля сетевой активности. Продукты компании помогают властям отслеживать интернет-трафик, находить попытки обхода цензуры и выделять пользователей, использующих VPN или другие способы скрыть действия в сети.
Новые документы Geedge Networks изучили исследователи Вандербильтского университета . Утечка показывает, что компания вместе с исследовательским подразделением MESA Lab работала над инструментами на базе искусственного интеллекта. Система должна собирать данные о передвижениях, телекоммуникациях, социальных сетях и поведении в интернете, строить профили граждан и отмечать людей, которых власти могут счесть политическим риском.
В материалах компании за первые месяцы 2024 года говорится о создании поведенческих профилей на основе данных операторов связи, геолокации и онлайн-активности. Модели ИИ должны были классифицировать пользователей и выявлять контент, который система относила к «вредной информации». В китайской политической лексике такой формулировкой часто называют материалы, связанные с критикой властей или темами, которые государство стремится подавить.
На встрече 5 февраля 2024 года сотрудники Geedge обсуждали, как строить профили людей, оценивать потенциальные политические риски и находить вредную информацию. Исследователи Вандербильтского университета считают, что компания пыталась перейти от обычного наблюдения к прогнозированию поведения: кто может начать критиковать власти, с кем человек связан и какие действия способен предпринять дальше.
Документы также указывают, что Geedge хотела связывать физические перемещения с другими цифровыми следами, включая просмотр фильмов и чтение книг. Такой подход превращает разрозненные данные в подробную карту повседневной жизни человека. Для репрессивного государства подобная система дает возможность искать не только уже известных активистов, но и людей, которые еще не совершали публичных действий.
Технология, судя по доступным материалам, пока не дошла до полноценного внедрения. Американские чиновники, знакомые с оценками разведки, сообщили журналистам, что доказательств завершения или запуска прогнозной системы Geedge нет. При этом власти США считают, что китайские компании продолжают двигаться в сторону более точной и автоматизированной модели полицейского надзора.
Развитие проекта тормозила нехватка вычислительных мощностей. В документах Geedge за 2024 год упоминаются ограничения по графическим процессорам, которые нужны для обучения и работы ИИ-моделей. Из-за экспортных ограничений США компания и связанная с ней лаборатория использовали менее мощные чипы и более старые модели.
По оценке американских чиновников, Geedge хватает процессоров для текущих продуктов, но для самой амбициозной версии прогнозной слежки потребуются более современные чипы. Особенно серьезная нагрузка появится, если система начнет анализировать перехваченные звонки или видео с камер наблюдения. Массовая слежка уже создает огромный поток данных, а искусственный интеллект нужен властям для сортировки информации и поиска предполагаемых угроз.
Китайская компания Geedge Networks разрабатывала систему, которая должна не просто следить за недовольными гражданами, а заранее вычислять людей, способных выступить против властей, пишет The New York Times. По замыслу разработчиков, такая технология могла бы определять граждан, которые еще не совершили публичных действий, но, по оценке алгоритмов, могут в будущем участвовать в протестах, критиковать власть или поддерживать оппозиционную активность.
Geedge Networks продает коммерческую версию Великого китайского файрвола, системы интернет-фильтрации и слежки, которую Китай использует для контроля сетевой активности. Продукты компании помогают властям отслеживать интернет-трафик, находить попытки обхода цензуры и выделять пользователей, использующих VPN или другие способы скрыть действия в сети.
Новые документы Geedge Networks изучили исследователи Вандербильтского университета . Утечка показывает, что компания вместе с исследовательским подразделением MESA Lab работала над инструментами на базе искусственного интеллекта. Система должна собирать данные о передвижениях, телекоммуникациях, социальных сетях и поведении в интернете, строить профили граждан и отмечать людей, которых власти могут счесть политическим риском.
В материалах компании за первые месяцы 2024 года говорится о создании поведенческих профилей на основе данных операторов связи, геолокации и онлайн-активности. Модели ИИ должны были классифицировать пользователей и выявлять контент, который система относила к «вредной информации». В китайской политической лексике такой формулировкой часто называют материалы, связанные с критикой властей или темами, которые государство стремится подавить.
На встрече 5 февраля 2024 года сотрудники Geedge обсуждали, как строить профили людей, оценивать потенциальные политические риски и находить вредную информацию. Исследователи Вандербильтского университета считают, что компания пыталась перейти от обычного наблюдения к прогнозированию поведения: кто может начать критиковать власти, с кем человек связан и какие действия способен предпринять дальше.
Документы также указывают, что Geedge хотела связывать физические перемещения с другими цифровыми следами, включая просмотр фильмов и чтение книг. Такой подход превращает разрозненные данные в подробную карту повседневной жизни человека. Для репрессивного государства подобная система дает возможность искать не только уже известных активистов, но и людей, которые еще не совершали публичных действий.
Технология, судя по доступным материалам, пока не дошла до полноценного внедрения. Американские чиновники, знакомые с оценками разведки, сообщили журналистам, что доказательств завершения или запуска прогнозной системы Geedge нет. При этом власти США считают, что китайские компании продолжают двигаться в сторону более точной и автоматизированной модели полицейского надзора.
Развитие проекта тормозила нехватка вычислительных мощностей. В документах Geedge за 2024 год упоминаются ограничения по графическим процессорам, которые нужны для обучения и работы ИИ-моделей. Из-за экспортных ограничений США компания и связанная с ней лаборатория использовали менее мощные чипы и более старые модели.
По оценке американских чиновников, Geedge хватает процессоров для текущих продуктов, но для самой амбициозной версии прогнозной слежки потребуются более современные чипы. Особенно серьезная нагрузка появится, если система начнет анализировать перехваченные звонки или видео с камер наблюдения. Массовая слежка уже создает огромный поток данных, а искусственный интеллект нужен властям для сортировки информации и поиска предполагаемых угроз.