New Orleans-politiet brukte i hemmelighet ansiktsgjenkjenning for å overvåke gatene i to år

I to år benyttet New Orleans-politiet hemmelig live ansiktsgjenkjenningskameraer for å spore mistenkte i sanntid, i det som ser ut til å være det første programmet av sitt slag i en stor amerikansk by.

En undersøkelse utført av The Washington Post avdekket at overvåkningssystemet, drevet med hjelp fra en privat ideell organisasjon kalt Project NOLA, utførte offentlige gateskanninger og sendte mobile varsler til politibetjenter om potensielle treff.

Systemet ble drevet uten at offentligheten visste om det, og det brøt byforordningen fra 2022 som begrenser bruk av ansiktsgjenkjenning til etterforskning av voldelige forbrytelser, og ikke inkluderer generell overvåkning.

“Dette er det verste scenarioet vi har bekymret oss for når det gjelder ansiktsgjenkjenningsteknologi,” sa Nathan Freed Wessler fra ACLU, som rapportert av The Post. “Dette er myndighetene som gir seg selv makten til å spore hvem som helst – for den saks skyld, alle sammen – mens vi går rundt i det offentlige livet,” la han til.

Posten rapporterer at siden tidlig i 2023 har programmet ført til arrestasjonen av minst 34 personer, inkludert folk som er siktet for ikke-voldelige lovbrudd. Politifolk nevnte ofte ikke bruken av ansiktsgjenkjenning i rapportene, og ingen av sakene dukket opp i politiets obligatoriske rapporter til byrådet.

Politimester Anne Kirkpatrick stoppet programmet i april etter at en kaptein reiste juridiske bekymringer. “Vi skal gjøre det som forskriften sier […] og hvis vi finner ut at vi er utenfor de tingene, skal vi stoppe det, rette det og komme innenfor grensene av forskriften,” sa hun, som rapportert av Posten.

Byen gjennomgår nå hvordan teknologien ble brukt og diskuterer oppdateringer til forskriften. Kirkpatrick støtter den lovlige implementeringen av ansiktsgjenkjenningsteknologi når den opererer transparent.

“Kan du ha teknologien uten å krenke og overvåke?” spurte hun, rapporterer The Post. “Ja, det kan du. Og det er det vi kjemper for.”

Det finnes ingen føderale regler som regulerer bruk av ansiktsgjenkjenning av det lokale politiet. Men kritikere advarer om at teknologien kan føre til uriktige arrestasjoner og brudd på borgerrettigheter, spesielt når den brukes i hemmelighet.

Denne mangelen på åpenhet om bruk av ansiktsgjenkjenning under arrestasjoner skaper store problemer når det gjelder rettferdighet og transparens over hele USA.

En tidligere undersøkelse avdekket mer enn 1,000 straffesaker over 15 stater hvor politiet ikke avslørte at ansiktsgjenkjennelsesteknologi ble brukt.

Politiavdelinger unngikk typisk å avsløre bruk av programvare ved å tilskrive innsamling av bevis til andre etterforskningsmetoder eller vitneutsagn. Mangelen på åpenhet hindrer tiltalte fra å bestride potensielt feilaktige bevis fordi ansiktsgjenkjenningssystemer har vist seg å være diskriminerende mot personer av farge, kvinner og eldre voksne.

En lignende sak i Detroit fikk nasjonal oppmerksomhet etter at Robert Williams ble feilaktig arrestert i 2020 på grunn av feilaktig ansiktsgjenkjenning. Hans søksmål førte til nye politiregler som krever uavhengig bevis utover algoritmiske matcher. Reformene tar sikte på å forhindre feilaktige arrestasjoner og adressere rasebias i AI-systemer.