New Orleans, capitale del riconoscimento facciale illegale

Non è un bel primato del quale andare fieri quello che un’inchiesta del Washington Post attribuisce a New Orleans: la città americana nella quale la polizia avrebbe abusato di più di alcune soluzioni di riconoscimento facciale.E però è una storia istruttiva che merita, forse, di essere raccontata.La sigla e ci proviamo.Il Washington Post non ha molti dubbi: la polizia di New Orleans avrebbe utilizzato da anni e per anni un sistema di telecamere intelligenti per identificare i sospettati di ogni genere di crimine più o meno importante e arrestarli senza troppe cautele.E non basta.Lo avrebbe fatto segretamente, violando le regole in vigore in città, regole che prevedono che il riconoscimento facciale possa essere usato solo per identificare i responsabili di reati gravi e gravissimi e, soprattutto, che prima di dare per buono il riconoscimento suggerito dagli algoritmi e arrestare qualcuno debbano scendere in campo uomini in carne ed ossa, esperti di riconoscimento facciale, chiamati a convalidare o bocciare l’indicazione algoritmica.Ma non è andata così.O, almeno, non sarebbe andata così secondo prove, dichiarazioni e pezzi di carta messi in fila dal Washington Post.Quello che sarebbe accaduto e che la polizia avrebbe usato il sistema di riconoscimento facciale per arrestare responsabili o, meglio, presunti responsabili anche di reati per i quali le regole in vigore non lo avrebbero consentito e, soprattutto, che lo avrebbe fatto in maniera assolutamente automatica, senza mai coinvolgere o, almeno, senza coinvolgere in decine o centinaia di casi alcun esperto umano di riconoscimento facciale.Il sistema dava l’allarme e suggeriva che il responsabile di un furto si trovava davanti a una certa telecamera e una pattuglia della polizia interveniva a arrestarlo, che fosse il vero responsabile o un innocente confuso dall’intelligenza artificiale per il colpevole.Ma non basta ancora.Perché, a valle dell’arresto e nel corso del procedimento, sarebbe stato almeno lecito attendersi che la polizia desse atto di aver usato una soluzione di riconoscimento facciale intelligente per l’identificazione del presunto responsabile di questo o quel reato.E, invece, niente, la circostanza veniva taciuta, nascosta, occultata.Fiuto investigativo, abilità umane, caso, destino.Le ragioni dell’arresto erano sempre diverse.Ma mai gli algoritmi, mai l’intelligenza artificiale, mai il ricorso al di fuori delle regole a strumenti di sorveglianza di massa.Ed è qui che la storia diventa interessante al di là dell’episodio, al di là di New Orleans, al di là delle violazioni gravi e gravissime delle quali sembrerebbe essersi resa protagonista una forza di polizia, un’istituzione deputata a far rispettare le regole e a assicurare alla legge i trasgressori, non certamente violandole e diventando essa stessa trasgressore!Perché la prima domanda che viene da porsi è se, dove e quanto frequentemente allo stesso genere di soluzioni si ricorre anche da questa parte dell’oceano ma senza poi dirlo, riconoscerlo, ammetterlo, scriverlo in un verbale d’arresto.Quasi impossibile rispondere.E un istante dopo, a seguire la domanda, la considerazione: tutti ci rendiamo conto che ci sono dei casi nei quali il diritto alla privacy deve cedere il passo a quello alla sicurezza e al contrasto al crimine, nei quali la privacy deve farsi più piccola e lasciare espandersi persino soluzioni di riconoscimento facciale intelligente ma, il problema, è quanto è alto il rischio di abusi?Quanto è sostenibile?E allora che fare o, forse, meglio come fare?Bisogna, credo, imparare a progettare le tecnologie da far scendere in campo in questi casi in termini tali da limitare quanto più possibile che tentazioni antidemocratiche per quanto ispirate a nobili fini, abbiano la meglio sulle regole democratiche.Un altro ragionamento enorme, persino per un caffè americano, figurarsi per il nostro espresso del mattino.Mi fermo qui.Buona giornata e, naturalmente, good morning privacy.