Избили, надругались и травмировали: американец стал жертвой ошибки системы распознавания лиц

[Artifact]

Резонансное дело подняло вопрос о целесообразности использования технологий.
61-летний житель США подал иск на $10 млн. против крупного американского ритейлера Macy's и компании EssilorLuxottica, владеющей сетью магазинов солнцезащитных очков Sunglass Hut. Причиной иска стало неправомерное задержание, основанное на неточном совпадении в системе распознавания лиц, в результате которого мужчина был ошибочно арестован по обвинению в ограблении и подвергся сексуальному насилию в тюрьме.
События развивались после того, как в 2022 году двое мужчин совершили вооруженное ограбление киоска Sunglass Hut внутри магазина Macy's, украв солнцезащитные очки и несколько тысяч долларов наличными. Расследуя преступление, полиция Хьюстона использовала программное обеспечение для распознавания лиц, которое ошибочно установило сходство подозреваемого с Гарви Юджином Мерфи-младшим, используя его старые фотографии. Помимо ошибки искусственного интеллекта, один из сотрудников магазина также узнал Мерфи среди преступников на предоставленных фотографиях.
Мерфи был арестован в момент обновления водительских прав в департаменте транспорта и отправлен в переполненную тюрьму строгого режима с жестокими преступниками. В тюрьме Мерфи избили, изнасиловали и нанесли необратимые травмы на всю жизнь. В разговоре с адвокатом Мерфи утверждал, что в момент ограбления находился в Калифорнии, что вскоре подтвердилось, и после нескольких часов в заключении все обвинения с него были сняты.
В иске Мерфи указывается, что его случай является трагичным и пугающим для всех людей. Программное обеспечение для распознавания лиц, известное своими ошибками и высоким уровнем ложных срабатываний, может привести к неправомерному обвинению и заключению любого человека.
Мерфи обвиняет Macy's и EssilorLuxottica в злонамеренном преследовании, неправомерном заключении и грубой халатности. Он требует компенсацию в размере $10 млн. Ответа от обеих компаний пока не поступило.
Правозащитная организация Fight for the Future (FFTF) рассказала, что Macy's подтвердила использование в этом деле ПО для распознавания лиц. По мнению FFTF, технологию вообще не следует использовать. FFTF заявила, что частные компании, использующие технологию распознавания лиц, подвергают клиентов серьезной опасности, и этот случай еще раз подтверждает то, что уже давно известно: безопасного использования систем распознавания лиц не существует – это должно быть запрещено.