Американский союз гражданских свобод (ACLU) подал жалобу на полицию Детройта в связи с фактом ошибки системы распознавания лиц, из-за которой невиновный человек был отправлен под арест. Это первый подобный случай в США, пишет The Verge.
Как следует из обнародованных документов, афроамериканец по имени Роберт Уильямс был арестован после того, как система распознавания лиц опознала в фотографии Уильямса на водительских правах человека, совершившего ограбление магазина. Лицо грабителя попало в поле зрение камеры наблюдения, и этот нечеткий кадр полицейские загрузили в систему распознавания лиц, получив совпадение. Преступление, о котором идет речь было совершено еще в октябре 2018 года, а изображение с камеры загрузили в систему в марте 2019 года.
Получив совпадение с фотографией Уильямса, полицейские показали его лицо охраннику магазина, который также опознал в Уильямсе вора. При этом, по данным ACLU, охранник не был свидетелем преступления и не видел грабителя. В январе этого года Уильямса арестовали. Под стражей он провел примерно 30 часов, а во время одного из допросов его попросили подержать снимок с камеры наблюдения рядом со своим лицом. После этого детектив признал, что система распознавания допустила ошибку. Уильямса отпустили, а обвинения с него были сняты, однако, это было сделан таким образом, что он может снова стать обвиняемым.
В жалобе ACLU говорится о необходимости удалить образец его ДНК, отпечатки пальцев и сделанный после ареста снимок из полицейских баз, а также удалить из его файлов запись об аресте.
В компании Rank One, систему которой использовали для поиска грабителя пообещали добавить в свою политику правила по отзыву ПО, нарушающего кодекс этики компании, и провести технический обзор дополнительных гарантий для предотвращения злоупотреблений, пишет "Роскомсвобода". В полиции Детройта сообщили, что с июля 2019 года правоохранители используют распознавание лиц только при расследовании насильственных преступлений.
Отметим, что история Уильямса лишний раз подтверждает опасения относительно применения алгоритмов распознавания лиц правоохранителями. Ранее на фоне протестов, вспыхнувших из-за гибели афроамериканца Джорджа Флойда при задержании, и обострения дискуссий о проблеме расизма компания IBM отказалась от разработки систем распознавания лиц, а Amazon и Microsoft ввели мораторий на поставку таких систем полиции.