Штурм, наручники и 10 часов в камере. Инженера арестовали из-за ошибки нейросети
NewsMakerПолицейские предпочли довериться алгоритму, а не собственным глазам.
В Великобритании очередной спор вокруг технологий распознавания лиц перешёл в плоскость судебных претензий. Поводом стала история 26-летнего инженера-программиста Элви Чоудхури, которого полиция задержала по подозрению в краже со взломом в городе, где он никогда не бывал.
В январе сотрудники полиции пришли в дом семьи Чоудхури в Саутгемптоне, надели на него наручники и доставили в участок. Мужчину продержали под стражей почти десять часов и отпустили лишь около двух часов ночи. Поводом стал результат автоматизированной системы распознавания лиц, которую применяет полиция долины Темзы. Алгоритм сопоставил его фотографию с кадрами видеонаблюдения по делу о краже на сумму 3000 фунтов в Милтон-Кинсе — примерно в 160 километрах от его дома.
По словам Чоудхури, на записи был заметно более молодой человек без бороды и с иными чертами лица. Он утверждает, что разница во внешности очевидна, однако это не помешало задержанию. В полиции долины Темзы заявили, что решение приняли после визуальной оценки сотрудником, а совпадение алгоритма рассматривали лишь как ориентир. При этом ведомство признало, что ошибка могла быть связана с предвзятостью технологии, но подчеркнуло, что арест не был незаконным и не являлся следствием расового профилирования.
Британские правоохранительные органы используют алгоритм немецкой компании Cognitec, закупленный Министерством внутренних дел. Система ежемесячно проводит около 25 тысяч поисков по базе из 19 миллионов полицейских фотографий. Согласно исследованию, заказанному тем же министерством, при определённых настройках доля ложных совпадений для темнокожих составляет 5,5 процента, для азиатских лиц — 4 процента, тогда как для белых — 0,04 процента. Комиссары по вопросам полиции и преступности ранее называли такие показатели тревожными и указывали на встроенную предвзятость. Подробнее о том, как работают подобные системы биометрии , рассказывает материал на SecurityLab.
В Великобритании очередной спор вокруг технологий распознавания лиц перешёл в плоскость судебных претензий. Поводом стала история 26-летнего инженера-программиста Элви Чоудхури, которого полиция задержала по подозрению в краже со взломом в городе, где он никогда не бывал.
В январе сотрудники полиции пришли в дом семьи Чоудхури в Саутгемптоне, надели на него наручники и доставили в участок. Мужчину продержали под стражей почти десять часов и отпустили лишь около двух часов ночи. Поводом стал результат автоматизированной системы распознавания лиц, которую применяет полиция долины Темзы. Алгоритм сопоставил его фотографию с кадрами видеонаблюдения по делу о краже на сумму 3000 фунтов в Милтон-Кинсе — примерно в 160 километрах от его дома.
По словам Чоудхури, на записи был заметно более молодой человек без бороды и с иными чертами лица. Он утверждает, что разница во внешности очевидна, однако это не помешало задержанию. В полиции долины Темзы заявили, что решение приняли после визуальной оценки сотрудником, а совпадение алгоритма рассматривали лишь как ориентир. При этом ведомство признало, что ошибка могла быть связана с предвзятостью технологии, но подчеркнуло, что арест не был незаконным и не являлся следствием расового профилирования.
Британские правоохранительные органы используют алгоритм немецкой компании Cognitec, закупленный Министерством внутренних дел. Система ежемесячно проводит около 25 тысяч поисков по базе из 19 миллионов полицейских фотографий. Согласно исследованию, заказанному тем же министерством, при определённых настройках доля ложных совпадений для темнокожих составляет 5,5 процента, для азиатских лиц — 4 процента, тогда как для белых — 0,04 процента. Комиссары по вопросам полиции и преступности ранее называли такие показатели тревожными и указывали на встроенную предвзятость. Подробнее о том, как работают подобные системы биометрии , рассказывает материал на SecurityLab.