Sztuczna inteligencja może wsadzić do więzienia. System nie jest doskonały
Piotr Mazurkiewicz
Departament Policji miasta Detroit nie będzie już dłużej używał wyników analiz systemów rozpoznawania twarzy jako jedynej podstawy aresztowania, zgodnie z niedawnym porozumieniem zawartym z mężczyzną, który został niesłusznie aresztowany w 2020 r.
Oskarżenie o kradzież zegarka
Robert Williams, spędził 30 godzin w więzieniu w Detroit po tym, jak technologia rozpoznawania twarzy niesłusznie zasugerowała, że jest złodziejem sklepowym. Jego aresztowanie nastąpiło około 15 miesięcy po kradzieży luksusowych zegarków, na podstawie zapisu z kamery monitorującej. Jak informował “The New York Times” bardzo niewyraźne i ziarniste nagrania z dnia incydentu zostały przeanalizowane przez system policyjny, który wytypował ponad 243 osób. Stare zdjęcie z prawa jazdy Williamsa było dziewiąte na liście, zgodnie z raportem dziennika. Mimo to osoba prowadząca poszukiwania wybrała Williamsa jako najlepszego kandydata i raport został wysłany do policji.
Zdjęcie Williamsa zostało następnie zaprezentowane wśród pięciu innych osób w serii zdjęć, a następnie poproszono wykonawcę usług ochrony sklepu o potwierdzenie podejrzanego, który był „najbliżej” oskarżonego w butiku. Po potwierdzeniu przez wykonawcę usług ochrony wydano nakaz aresztowania Williamsa.
Został zatrzymany i musiał spędzić noc w więzieniu, pobrano również jego odciski palców i próbkę DNA. Jego obrona szybko udowodniła, że Williams był przy biurku w miejscu pracy, gdy doszło do kradzieży. Sprawa przeciwko niemu została ostatecznie umorzona, a Policja ma mu zapłacić 300 tys. dolarów odszkodowania i obiecać, że nie będzie wykorzystywać technologii rozpoznawania twarzy jako jedynej podstawy dokonywania aresztowań.
Sztuczna inteligencja może się pomylić
Incydent z udziałem Williamsa jest jednym z wielu, w których doszło do niesłusznych aresztowań. American Civil Liberties Union (ACLU) od lat proponuje nowe zasady korzystania z usług policji.
Phil Mayor, prawnik z Michigan, został zacytowany przez NYT, mówiąc iż ugoda przenosi Departament Policji Detroit z najlepiej udokumentowanego nadużycia technologii rozpoznawania twarzy do krajowego lidera w zakresie stosowania barier ochronnych.
Takich spraw było już znacznie więcej w USA i w zdecydowanej większości dochodziło do błędnych aresztowań czarnoskórych mężczyzn. Mieszkaniec New Jersey pozwał miasto Woodbridge i jego policję po tym, jak został bezprawnie aresztowany w wyniku nieprawidłowego rozpoznania twarzy przez sztuczną inteligencję. W 2019 roku spędził 10 dni w więzieniu, przy czym przez tydzień przebywał w izolatce. Oskarżono go m.in. o kradzież w sklepie i posiadanie narkotyków.
W Atlancie inny mężczyzna został zatrzymany w listopadzie 2022 r., spędził tydzień w odosobnieniu przez błąd systemu za zbrodnię, której nie popełnił. On również skierował sprawę przeciwko policji do sądu.
Z kolei jak pisaliśmy Amerykanin z Kalifornii oskarżył sztuczną inteligencję i oprogramowanie do rozpoznawania twarzy za błędne wskazanie go jako za winnego napadu na sklep. Domaga się 10 mln dol. odszkodowania za pobyt w więzieniu i brutalny gwałt, jakiego ofiarą był w więzieniu.
