«Ваше лицо не прошло проверку». Технологии распознавания лиц стирают из виду 100 миллионов человек
NewsMakerПо оценкам, около 100 миллионов человек живут с особенностями лица.
Осенью прошлого года жительница Коннектикута Отум Гардинер пришла в DMV , чтобы обновить водительские права после замужества. Имя в базе поменяли сразу, но сотрудник попросил сделать новое фото. С этого момента все пошло не так. Каждый кадр система отвергала, операторы пробовали снова и снова, люди вокруг наблюдали, напряжение росло. Гардинер живет с редким синдромом Фримена-Шелдона, он влияет на мышцы лица и черепа, из-за чего у человека может быть маленький рот. В какой-то момент ей стало ясно, что именно это и ломает алгоритм. По ее словам, ощущение было унизительным и странным, как будто машина сообщает, что ее лицо не похоже на человеческое.
История Гардинер не единична. Люди с различиями внешности, от крупных родимых пятен до краниофациальных особенностей, все чаще сталкиваются с отказами верификационных систем, которые стали обычным инструментом в госуслугах и коммерческих сервисах. Они рассказывают, что не могут пройти онлайн-проверку личности для доступа к государственным сервисам и банковским приложениям, а фильтры соцсетей и разблокировка телефонов по лицу просто не работают.
По оценке Face Equality International, объединяющей организации и фонды, которые поддерживают людей с особенностями внешности, в мире живут более 100 миллионов таких людей. Их исследования фиксируют проблемы в автоматизированных воротах паспортного контроля, фото-приложениях, видеофильтрах и даже в функции размытия фона во время видеозвонков. Представители сообщества говорят, что технологии распознавания лиц становятся частью повседневности, но часто не учитывают их потребности.
Техническая причина нередко одна и та же. Современные системы идентификации опираются на биометрию, измеряют расстояния между глаз, параметры челюсти, другие черты и собирают своеобразный «faceprint». К этому добавляют тесты живости, когда нужно записать короткое видео, чтобы доказать, что перед камерой не фотография. Для многих это работает, но выборка лиц, на которой обучают модели, не всегда достаточно разнообразна. Так появляется слепая зона, где алгоритм не распознает лицо, если оно сильно отличается от того, что он привык считать нормой.
Консультантка по технологиям и социальному влиянию Грета Байрам сравнивает такие случаи с канарейкой в шахте. Если система не справляется с людьми, у которых внешность отличается от стандартной, значит, в самой архитектуре есть изъян. Технология становится молотком, для которого все вокруг превращается в гвоздь, и живые люди подгоняются под рамки модели вместо того, чтобы модель училась подстраиваться под людей.
Американка Кристал Ходжес, живущая с синдромом Стерджа-Вебера и заметным винным пятном на лице, вспоминает, как пыталась получить кредитный рейтинг на сайте крупного бюро. Селфи-проверка не проходила снова и снова, она меняла освещение и камеры, но система отказывала, хотя ее муж с бородой прошел ту же процедуру без проблем. Позже сервис все же сработал, но доступ к рейтингу она так и не получила.
Жительница Мэриленда Нур Аль-Халед несколько месяцев безуспешно пытается зарегистрировать онлайн-аккаунт на сайте Управления соцобеспечения США. Для нее это особенно важно, так как из-за проблем со зрением она не водит машину и рассчитывает решать вопросы дистанционно. Сайт требует фото и сравнивает его с удостоверением личности, однако алгоритм каждый раз сообщает о несоответствии. Представители ведомства говорят, что есть альтернативные способы подтверждения, а сами проверку лиц не запускают, полагаясь на системы Login.gov и ID.me. В ID.me подчеркивают приверженность доступности и утверждают, что помогают людям с особенностями внешности, в отдельных случаях готовы подключаться к проблемам напрямую.
Нью-йоркский актер и мотивационный спикер Кори Р. Тейлор вспоминает, как не смог пройти биометрический контроль в финансовом приложении и вынужден был менять позу и буквально «подстраивать» лицо, чтобы совпасть с ожиданиями алгоритма. На письмо в поддержку он получил шаблонный ответ. Правозащитники и организации наподобие FEI настаивают на простом шаге уже сейчас, пока индустрия не починит модели. Нужны альтернативные пути верификации личности, чтобы люди могли устроиться на работу, забрать свои деньги, пройти паспортный контроль вместе с семьей и не застревать в технологических лабиринтах.
Проблема не ограничивается биометрией. Люди с особенностями внешности часто сталкиваются с травлей в сети, а общий разворот интернета к короткому видео усиливает чувство изоляции. Для многих именно онлайн когда-то был безопасным пространством, где можно найти поддержку и не ловить посторонних взглядов. Теперь они чаще слышат комментарии о том, как им вообще удается выходить из дома и появляться в интернете.
История Гардинер в Коннектикуте все же закончилась формально благополучно. Сотрудники DMV вручную подтвердили фотографию, временные права выдали в тот же день, потом прислали постоянные. Она все равно вышла из отделения в слезах. Этот эпизод напомнил, что она отличается от большинства и не вписывается в рамки, которые диктует система. После визита Гардинер связалась со знакомой депутаткой штата и рассказала о случившемся. Та обсудила ситуацию с руководством DMV и тему обучения сотрудников. В ведомстве говорят, что соблюдают строгие требования к фото, однако при этом стараются проявлять эмпатию и учитывать потребности посетителей. Технологический поставщик Idemia утверждает, что регулярно обучает персонал, а его алгоритмы получают высокие оценки на внешних тестах.
Гардинер слышала о похожих проблемах в DMV других штатов и хочет, чтобы появились четкие протоколы на случай, когда ИИ не справляется. В ее жизни это не закончилось DMV. Для нового паспорта она снова столкнулась с отказами системы. Технологии все глубже входят в повседневность, а значит вопрос доступности перестает быть маргинальным. Он касается не только справедливости, но и базового права человека на участие в жизни общества.
Осенью прошлого года жительница Коннектикута Отум Гардинер пришла в DMV , чтобы обновить водительские права после замужества. Имя в базе поменяли сразу, но сотрудник попросил сделать новое фото. С этого момента все пошло не так. Каждый кадр система отвергала, операторы пробовали снова и снова, люди вокруг наблюдали, напряжение росло. Гардинер живет с редким синдромом Фримена-Шелдона, он влияет на мышцы лица и черепа, из-за чего у человека может быть маленький рот. В какой-то момент ей стало ясно, что именно это и ломает алгоритм. По ее словам, ощущение было унизительным и странным, как будто машина сообщает, что ее лицо не похоже на человеческое.
История Гардинер не единична. Люди с различиями внешности, от крупных родимых пятен до краниофациальных особенностей, все чаще сталкиваются с отказами верификационных систем, которые стали обычным инструментом в госуслугах и коммерческих сервисах. Они рассказывают, что не могут пройти онлайн-проверку личности для доступа к государственным сервисам и банковским приложениям, а фильтры соцсетей и разблокировка телефонов по лицу просто не работают.
По оценке Face Equality International, объединяющей организации и фонды, которые поддерживают людей с особенностями внешности, в мире живут более 100 миллионов таких людей. Их исследования фиксируют проблемы в автоматизированных воротах паспортного контроля, фото-приложениях, видеофильтрах и даже в функции размытия фона во время видеозвонков. Представители сообщества говорят, что технологии распознавания лиц становятся частью повседневности, но часто не учитывают их потребности.
Техническая причина нередко одна и та же. Современные системы идентификации опираются на биометрию, измеряют расстояния между глаз, параметры челюсти, другие черты и собирают своеобразный «faceprint». К этому добавляют тесты живости, когда нужно записать короткое видео, чтобы доказать, что перед камерой не фотография. Для многих это работает, но выборка лиц, на которой обучают модели, не всегда достаточно разнообразна. Так появляется слепая зона, где алгоритм не распознает лицо, если оно сильно отличается от того, что он привык считать нормой.
Консультантка по технологиям и социальному влиянию Грета Байрам сравнивает такие случаи с канарейкой в шахте. Если система не справляется с людьми, у которых внешность отличается от стандартной, значит, в самой архитектуре есть изъян. Технология становится молотком, для которого все вокруг превращается в гвоздь, и живые люди подгоняются под рамки модели вместо того, чтобы модель училась подстраиваться под людей.
Американка Кристал Ходжес, живущая с синдромом Стерджа-Вебера и заметным винным пятном на лице, вспоминает, как пыталась получить кредитный рейтинг на сайте крупного бюро. Селфи-проверка не проходила снова и снова, она меняла освещение и камеры, но система отказывала, хотя ее муж с бородой прошел ту же процедуру без проблем. Позже сервис все же сработал, но доступ к рейтингу она так и не получила.
Жительница Мэриленда Нур Аль-Халед несколько месяцев безуспешно пытается зарегистрировать онлайн-аккаунт на сайте Управления соцобеспечения США. Для нее это особенно важно, так как из-за проблем со зрением она не водит машину и рассчитывает решать вопросы дистанционно. Сайт требует фото и сравнивает его с удостоверением личности, однако алгоритм каждый раз сообщает о несоответствии. Представители ведомства говорят, что есть альтернативные способы подтверждения, а сами проверку лиц не запускают, полагаясь на системы Login.gov и ID.me. В ID.me подчеркивают приверженность доступности и утверждают, что помогают людям с особенностями внешности, в отдельных случаях готовы подключаться к проблемам напрямую.
Нью-йоркский актер и мотивационный спикер Кори Р. Тейлор вспоминает, как не смог пройти биометрический контроль в финансовом приложении и вынужден был менять позу и буквально «подстраивать» лицо, чтобы совпасть с ожиданиями алгоритма. На письмо в поддержку он получил шаблонный ответ. Правозащитники и организации наподобие FEI настаивают на простом шаге уже сейчас, пока индустрия не починит модели. Нужны альтернативные пути верификации личности, чтобы люди могли устроиться на работу, забрать свои деньги, пройти паспортный контроль вместе с семьей и не застревать в технологических лабиринтах.
Проблема не ограничивается биометрией. Люди с особенностями внешности часто сталкиваются с травлей в сети, а общий разворот интернета к короткому видео усиливает чувство изоляции. Для многих именно онлайн когда-то был безопасным пространством, где можно найти поддержку и не ловить посторонних взглядов. Теперь они чаще слышат комментарии о том, как им вообще удается выходить из дома и появляться в интернете.
История Гардинер в Коннектикуте все же закончилась формально благополучно. Сотрудники DMV вручную подтвердили фотографию, временные права выдали в тот же день, потом прислали постоянные. Она все равно вышла из отделения в слезах. Этот эпизод напомнил, что она отличается от большинства и не вписывается в рамки, которые диктует система. После визита Гардинер связалась со знакомой депутаткой штата и рассказала о случившемся. Та обсудила ситуацию с руководством DMV и тему обучения сотрудников. В ведомстве говорят, что соблюдают строгие требования к фото, однако при этом стараются проявлять эмпатию и учитывать потребности посетителей. Технологический поставщик Idemia утверждает, что регулярно обучает персонал, а его алгоритмы получают высокие оценки на внешних тестах.
Гардинер слышала о похожих проблемах в DMV других штатов и хочет, чтобы появились четкие протоколы на случай, когда ИИ не справляется. В ее жизни это не закончилось DMV. Для нового паспорта она снова столкнулась с отказами системы. Технологии все глубже входят в повседневность, а значит вопрос доступности перестает быть маргинальным. Он касается не только справедливости, но и базового права человека на участие в жизни общества.