В Детройте мужчина, которого обвинили в магазинной краже, подал в суд на местное полицейское управление из-за ареста. Оказалось, что система распознавания лиц допустила ошибку, и мужчина лишился свободы незаконно.

Иск был подан Американским союзом гражданских свобод от имени Роберта Уильямса, которого организация назвала первым человеком в США, незаконно арестованным на основании распознавания лиц.

Инцидент произошел в 2019 году. Полицейские изучали видеозапись кражи в магазине. Детектив использовал технологию распознавания лиц, и система пометила Уильямса на основании фотографии из водительского удостоверения. Сама запись была некачественной, так как все произошло в темное время суток. При этом подозреваемый был темнокожим.

Однако отдел полиции подготовил подборку фотографий, включающую снимок Уильямса, и показал ее охраннику, которого даже не было в магазине в момент кражи. Арестованный провел 30 часов в изоляторе.

Американский союз гражданских свобод утверждает, что полиция Детройта использовала распознавание лиц при обстоятельствах, которые, как они должны были знать, дадут ненадежные результаты, а затем не упомянула недостатки системы, включая ее расовую предвзятость.

Это не единственный подобный эпизод. В 2020 году другой темнокожий американец Майкл Оливер также подал в суд на полицейских.

Несколько американских городов уже запретили применять системы распознавания лиц при расследованиях, а Microsoft, IBM и Amazon обязались не допускать попадания своих систем в руки полиции.

В настоящее время исследовательская лаборатория армии США разрабатывает набор данных для обучения системы распознаванию лиц, которая работает в темноте. Visible-Thermal Face (ARL-VTF) содержит 500 тысяч изображений 395 человек. Набор включает совпадающие изображения лиц людей, снятые как в обычных условиях, так и с помощью тепловизионных камер при низкой освещенности.