Il software di riconoscimento facciale ha portato al suo arresto. Era completamente sbagliato

Le proposte di legge del Maryland sono state sviluppate con il contributo di un gruppo di lavoro che ha visto i legislatori statali incontrare pubblici ministeri e difensori pubblici, forze dell’ordine e gruppi per le libertà civili come ACLU e Innocence Project.

Il Maryland è un luogo unico per discutere la regolamentazione del riconoscimento facciale, afferma Andrew Northrup, un avvocato della divisione forense dell’Ufficio del difensore pubblico del Maryland. Definisce Baltimora “una capsula di Petri per la tecnologia di sorveglianza”, perché la città spende più soldi pro capite per la polizia tra le 72 principali città degli Stati Uniti, secondo un’analisi del 2021 dell’organizzazione no profit Vera Institute of Justice, e ha una lunga storia di sorveglianza tecnologia nella polizia.

L’uso di una tecnologia di sorveglianza invasiva, incluso il riconoscimento facciale a Baltimora durante le proteste seguite alla morte di Freddie Gray nel 2015, ha portato l’ex presidente del Comitato per la supervisione e la riforma della Camera Elijah Cummings a interrogare la questione al Congresso. E nel 2021, il consiglio comunale di Baltimora ha votato per imporre una moratoria di un anno sull’uso del riconoscimento facciale da parte di attori pubblici e privati, ma non della polizia, che è scaduta a dicembre.

Northrup si è espresso a favore del disegno di legge e della sua richiesta di prove valutative durante la stessa udienza del comitato giudiziario della Camera dei delegati affrontata da Carronne Sawyer questo mese. Ha avvertito che man mano che l’uso della tecnologia diventa più comune, il cattivo riconoscimento facciale potrebbe sostituire la cattiva identificazione del testimone oculare come una delle principali fonti di condanne errate. La maggior parte delle persone non riesce a riconoscere gli estranei, dice Northrup, anche se assistita da un algoritmo.

Le organizzazioni che rappresentano la polizia e i pubblici ministeri del Maryland hanno partecipato alla formazione della proposta di legge attraverso il gruppo di lavoro, ma hanno comunque sollevato opposizione. Nell’udienza del comitato giudiziario, il presidente dell’Associazione dei capi di polizia del Maryland Russ Hamill ha affermato che quanto accaduto ad Alonzo Sawyer è stato orribile, ma si è espresso contro il disegno di legge. Ha detto che ha limitato troppo strettamente il tipo di casi in cui il riconoscimento facciale potrebbe essere utilizzato e si è anche lamentato dei suoi limiti su cui la polizia può cercare nei database di foto.

Anche Nick Picerno, un capitano della polizia della contea di Montgomery, un’area urbana vicino a Washington, DC, ha affermato che quelle parti del disegno di legge ostacolerebbero l’applicazione della legge. Ha detto che gli agenti del suo dipartimento hanno precedentemente utilizzato la tecnologia per identificare un sospetto di esposizione indecente catturato da una telecamera del campanello e per identificare una vittima di abusi su minori in un video di TikTok. Ha chiesto che la proposta venga modificata per consentire l’uso del riconoscimento facciale per identificare sia i sospetti che i testimoni in molte altre categorie di reati, tra cui il possesso di armi da fuoco, la pornografia infantile, la violenza domestica e la crudeltà verso gli animali.

Deborah Levi, un difensore d’ufficio a Baltimora, ha dichiarato all’udienza che le sue richieste di registri pubblici indicavano che il solo dipartimento di polizia di Baltimora ha utilizzato il riconoscimento facciale più di 800 volte nel 2022. In un caso, la polizia ha fatto scorrere una foto su Instagram di una persona che impugnava una pistola attraverso software di riconoscimento facciale, quindi ha ottenuto un mandato di non bussare per l’indirizzo della persona suggerita come corrispondenza, ha detto.

Carronne Sawyer sostiene la proposta di legge perché ritiene che la clausola secondo cui il riconoscimento facciale “non può servire come unica base per un’identificazione positiva” avrebbe fatto la differenza nel caso di suo marito. Il suo calvario ha cambiato il modo in cui si sente nei confronti della polizia e le ha tolto la fiducia nel giusto processo, dice, lasciandola convinta che la società abbia urgente bisogno di una regolamentazione come quella in discussione nel Maryland.

“Sto solo pensando a quante altre persone hanno passato quello che ha dovuto passare mio marito e non avevano nessuno che lottasse per loro”, dice. “Quante persone sono in prigione ora per qualcosa che non hanno fatto a causa del riconoscimento facciale e delle forze dell’ordine che non stanno facendo la dovuta diligenza?”

La legislatura dello stato del Maryland si aggiorna ad aprile e non si riunirà più fino a gennaio 2024. Se i progetti di legge proposti non verranno approvati prima di allora, l’uso del riconoscimento facciale da parte della polizia rimarrà non regolamentato nello stato per almeno un altro anno.