Системы распознавания лиц: ошибки идентификации

Системы распознавания лиц, внедренные в разных странах, регулярно подвергаются общественной критике, а компании, которые занимаются разработкой соответствующего ПО, сталкиваются с исками, когда ошибка системы распознавания лиц приводит к неправомерному задержанию правоохранительными органами.

В обзоре рассмотрено несколько примеров, когда некорректная биометрическая идентификация привела к ошибочным задержаниям и к последующим искам со стороны пострадавших.

Великобритания

Одна из ведущих британских компаний Facewatch, которая занимается биометрией и поставляет облачную систему распознавания лиц для магазинов по всей Великобритании, столкнулась с судебным иском после того, как ее система ошибочно идентифицировала 19-летнюю девушку как воровку.

В феврале сотрудники выгнали девушку из магазина, когда она делала покупки в магазине Home Bargains в Манчестере. С помощью группы по защите цифровых прав Big Brother Watch девушка подала в суд на Facewatch и Home Bargains. Это стало первым иском в Великобритании по борьбе со слежкой с помощью системы распознавания лиц.

Big Brother Watch также помогла подать еще один иск против полиции Лондона.

38-летний Шон Томпсон, активист по борьбе с ножевой преступностью, был ошибочно идентифицирован в базе данных системы распознавания лиц столичной полиции. Томпсон был опознан как преступник одним из белых фургонов, оснащенных камерами на крыше, которые сканируют лица окружающих и отмечают их в базе данных разыскиваемых преступников.

В Big Brother Watch заявили, что эти случаи являются «верхушкой айсберга» и что за помощью после ложных обвинений обращается все больше людей. Столичная полиция, напротив, называет системы распознавания лиц в реальном времени «жизненно важным инструментом» для работы. Систему также считают точной, несмотря на то что уровень ложноположительных идентификаций на данный момент превысил показатель 1 на 6000, который полиция поставила в качестве цели.

Правительство Великобритании выделило $295 млн на такого рода технологии, включая дроны и системы распознавания лиц. Премьер-министр также пообещал $69,5 млн в технологию распознавания лиц для борьбы с преступностью в розничной торговле.

Аргентина

Система распознавания лиц в Буэнос-Айресе была запущена в 2019 году для выявления беглецов. Внедрила ее компания Danaide SA, а технологию распознавания лиц предоставила NtechLab.

Однако система общественного наблюдения, известная как Система распознавания лиц беглецов (SNRP), вскоре показала свои недостатки, когда привела к ошибочному аресту гражданина Аргентины Гильермо Ибарролы. Его перепутали с подозреваемым преступником с таким же именем, и Ибаррола был вынужден провести неделю в тюрьме.

Еще больший скандал вокруг системы распознавания лиц произошел после того, как в 2022 году было обнаружено, что система из 300 камер использовалась для сбора данных о журналистах, политиках и правозащитниках.

В феврале суд в столице Аргентины постановил, что работа системы SNRP будет приостановлена. Дата перезапуска системы не определена. Суд поручил правительству города и группам гражданского общества ODIA, Vía Libre и CELS разработать институциональную основу и четкий план для аудита системы перед ее повторным внедрением.

На момент приостановки работы системе SNRP удалось обнаружить более 1700 беглецов в Буэнос-Айресе, в том числе обвиняемых в убийствах, грабежах и сексуальных преступлениях.

США

Американский союз гражданских свобод (ACLU) подал заключение о неправомерном тюремном аресте Ниджира Паркса, обвиненного в краже магазина Нью-Джерси. Паркс подал в суд на учреждения, причастные к его аресту, а также на производителя биометрических устройств Idemia. По данным ACLU, Паркс провел в камере 10 дней.

Расследование инцидента показало, что полиция использовала нечеткую фотографию из поддельного удостоверения личности сбежавшего подозреваемого, что в итоге привело к неправильной биометрической идентификации. Офицеров, предположительно, также не обучали аспектам использования системы.

Еще один арест в США по причине некорректной работы системы распознавания лиц, привел к истории о неправильной идентификации и судебному иску.

По данным The Guardian, ошибочная идентификация была сделана специалистами по безопасности магазина розничной торговли, а не полицией.

Sunglass Hut в Хьюстоне (штат Техас), был ограблен двумя вооруженными мужчинами. После ограбления сотрудник материнской компании, EssilorLuxottica, связался с другим партнером — Macy's (холдинг, владеет сетью универмагов). Кадры с камер видеонаблюдения в низком качестве были переданы и загружены в систему распознавания лиц, которая затем ошибочно отметила 61-летнего Харви Юджина Мёрфи-младшего. Сотрудник EssilorLuxottica обратился в полицию Хьюстона и сообщил, что личность преступника установлена.

В день ограбления Мёрфи находился в Сакраменто (штат Калифорния), но через полтора года он вернулся в Техас, чтобы продлить водительские права, и был арестован. Он провел 10 дней в местной тюрьме и еще несколько дней в тюрьме округа Харрис, прежде чем его алиби подтвердили, и он был освобожден. До этого, по его словам, его избили и изнасиловали трое других заключенных. Мёрфи также говорит, что мужчины угрожали убить его.

Мерфи предъявил иск Sunglass Hut, EssilorLuxottica, Macy's и трем причастным лицам на $10 миллионов долларов.

Арест, основанный на ошибочной идентификации лиц, последовал за чередой других подобных арестов в США. При этом Мёрфи — белый, но в каждом из остальных случаев ошибочно идентифицированный человек был черным.