San Francisco ha vinto la battaglia, ma la guerra per il riconoscimento facciale è appena iniziata
San Francisco è diventata la prima città in America a vietare il riconoscimento facciale . Bene, tipo di
In effetti, il divieto – votato questa settimana dal Consiglio dei Supervisori della città – impedisce solo l'uso del riconoscimento facciale da parte delle agenzie cittadine, come il dipartimento di polizia. Non influisce sull'uso della tecnologia di riconoscimento facciale in luoghi come aeroporti o porti, ad esempio, o da applicazioni private orchestrate da società private. Oh sì, e dato che il dipartimento di polizia di San Francisco non utilizza attualmente la tecnologia di riconoscimento facciale, questa sentenza vieta qualcosa che non è stato effettivamente utilizzato. Mentre il dipartimento ha testato la tecnologia sulla prenotazione delle foto tra il 2013 e il 2017, non ha implementato questo caso d'uso su base permanente.
Quindi questa è solo legislazione priva di significato, qualcosa che suona e sembra buono sulla carta, ma alla fine non raggiunge nulla? Affatto. Si tratta di una mossa proattiva che, si spera, porterà gli altri a seguire le sue orme. Come ho scritto di recente , il riconoscimento facciale è cresciuto molto rapidamente nella sua applicazione. La tecnologia che sembrava fantascienza nell'arco di molte delle nostre vite è ora ovunque. Diamine, oggi i modelli di smartphone più venduti utilizzano il riconoscimento facciale come un modo per garantirci l'accesso ai nostri dispositivi. (Come notato, questo non sarà influenzato dalle nuove leggi, che entreranno in vigore il 1 ° luglio).
Un display che mostra un sistema di riconoscimento facciale per le forze dell'ordine durante la conferenza sulla tecnologia della GPU NVIDIA Gran parte dell'adozione (e una grande quantità di denaro) nel riconoscimento facciale proviene da applicazioni di sicurezza. Questo è qualcosa che stiamo vedendo oggi molto spesso in posti come la Cina, dove i media statali spesso parlano della sua capacità di identificare (e, a sua volta, agire contro) singoli criminali all'interno di folle di migliaia di altri . Grazie ai progressi della tecnologia di sorveglianza, vengono utilizzati sempre più strumenti di riconoscimento facciale per ciò che viene chiamato live facial recognition (LFR), ovvero il "matching" automatico in tempo reale di individui con una "watchlist" curata in filmati video.
Ci sono davvero due problemi con questa applicazione. Il primo è la questione dell'accuratezza. Nonostante i progressi nella tecnologia di riconoscimento facciale, c'è ancora preoccupazione per errori e pregiudizi. I pericoli del bias algoritmico sono stati giustamente contrassegnati da molte voci preoccupate – e il riconoscimento facciale è un'ulteriore area in cui questo rischio di pregiudizi si è dimostrato problematico, in particolare quando si tratta di persone di colore .
Sebbene differisca in base all'algoritmo e ai dati di allenamento, molti strumenti di riconoscimento facciale hanno dimostrato di essere meno efficaci nel riconoscere gli individui con la pelle più scura . Il mancato riconoscimento da parte di un algoritmo di riconoscimento facciale potrebbe falsamente etichettare i cittadini neri rispettosi della legge come trasgressori, che devono identificarsi o potenzialmente affrontare un arresto illegale. Sebbene essere identificato da un sistema di riconoscimento facciale non sia una "prova" infallibile in sé, affidarsi a questi strumenti dalle forze dell'ordine potrebbe ancora causare danni alle comunità che hanno già motivo di sentirsi emarginate.
Vogliamo il riconoscimento facciale?
Nel corso del tempo, alcuni di questi problemi tecnici potranno essere risolti e risolti. È possibile creare set di dati più inclusivi con livelli di diversità e accuratezza maggiori. Ma anche se questi strumenti dovessero essere del tutto efficaci, ci sono ancora ragioni per cui potremmo essere scettici sul loro uso. Non è necessario essere assolutisti della privacy per credere che i cittadini dovrebbero essere in grado di condurre la propria vita senza essere costantemente monitorati. Come la sorveglianza telefonica su larga scala, il riconoscimento facciale di massa significa sorvegliare tutti, indipendentemente da ciò che possono o non possono aver fatto.
Dimostrare che il riconoscimento facciale è sufficientemente benefico per escludere la perdita della libertà e della privacy che comporta è qualcosa che non è neanche lontanamente dimostrato, e tanto meno concordato. In breve, se uno degli obiettivi degli enti governativi dovrebbe essere quello di generare fiducia nella polizia, allora strumenti come il riconoscimento facciale potrebbero non essere il modo migliore per ottenerlo, indipendentemente dal fatto che sia libero da pregiudizi o meno.
Ci sono due modi per regolare. Uno è aspettare fino a quando succede qualcosa di brutto e poi capire retroattivamente come fermarlo e punire i malfattori. L'altro è fermarlo prima che raggiunga quel punto. San Francisco sta scegliendo il secondo. Resta da vedere se questa sentenza è stata rivista in un secondo momento, quando sono stati sviluppati e dimostrati pubblicamente sistemi di riconoscimento facciale più inclusivi. Ma sta dando un esempio che potrebbe portare ad altre città e stati che decidono regole simili. Dopotutto, se gli abitanti del centro tecnologico di San Francisco sono preoccupati per la tecnologia di riconoscimento facciale, allora quali sono le probabilità che ci siano molti cittadini altrove?
Le compagnie tecnologiche parlano dell'imperativo di muoversi velocemente e rompere le cose. Le leggi, che si muovono lenta
mente e cercano di risolverle, possono spesso rimanere indietro senza speranza. Questa è un'eccezione molto gradita alla regola.
