Paure sul riconoscimento facciale di Amazon usato dai poliziotti

Uno strumento di lotta alla criminalità o di sorveglianza di massa? A causa della sua tecnologia di riconoscimento automatico delle immagini, o più precisamente di riconoscimento dei volti, Amazon è finita nel mirino di un'assiciazione di difesa del cittadino nordamericana, la American Civil Liberties Union, la quale sospetta utilizzi poco trasparenti da parte delle forze dell'ordine. La capacità di risalire a caratteristiche etniche e anagrafiche, se non addirittura all'identità di una persona catturata da una videocamera o fotocamera è chiaramente un vantaggio per gli specialisti della pubblica sicurezza, magari alla caccia di criminali evasi, latitanti e terroristi.

La tecnologia della società di Seattle, lanciata nel 2016 come servizio cloud di Aws, consente di individuare automaticamente i volti delle persone all'interno di immagini statiche o video, di catalogare l'etnica l'età, lo stato d'animo di un individuo oppure la razza di un cane, e ancora di rilevare la presenza di elementi quali occhiali, baffi, accessori e altro ancora. Anche Google propone un'Api di riconoscimento dei volti non dissimile, basata su algoritmi e biometrica e applicabile agli usi più disparati in campo pubblicitario, nella comunicazione, nella videosorveglianza.

Soluzioni verticali per le forze dell'ordine già esistono, frutto di vendor specializzati, ma l'azienda di Jeff Bezos è stata tuttavia il primo colosso tecnologico nato come “consumer” a proporre qualcosa di simile. Fra gli early adaptor di Amazon Rekognition, questo il nome del servizio, spiccano l'Orlando Police Department e il Washington County Sheriff’s Office, e proprio da uno scambio di email e da altri documenti interni a questi due uffici è scaturita la polemica.

I documenti ottenuti dalla American Civil Liberties Union in seguito a formale richiesta, e includono alcuni scambi fra ufficiali di polizia e dipendenti di Amazon, in cui si discute dell'ipotesi di usare il servizio Rekognition per fare analisi dei filmati registrati da videocamere di sorveglianza, da micro-videocamere nascoste sul corpo dei poliziotti e, non ultimo, dai droni. C'è da scommettere che del sospetto di sorveglianza occulta attraverso i velivoli robotici si tornerà a parlare in futuro, anche alla luce delle sperimentazioni presto avviate da Apple per raccogliere immagini a beneficio delle sue mappe (i volti delle persone saranno oscurati, ha comunque rassicurato la società di Cupertino).

Scrivendo a nome di una ventina di associazioni watchdog, la American Civil Liberties Union ha inviato una lettera aperta all'indirizzo di Jeff Bezos, in cui si paventa il rischio di abusi di Amazon Rekognition da parte di istituzioni e dipendenti governativi. Si teme, per esempio, che questa tecnologia possa essere usata per spiare e pedinare i partecipanti a una manifestazione di protesta o specifiche persone sospettate di qualcosa. Per il momento Amazon si è difesa affidando a una portavoce il compito di sottolineare i tanti usi possibili del servizio di riconoscimento dei volti, che viene impiegato tra le altre cose per ritrovare i bambini smarriti nei centri commerciali.

Di certo il riconoscimento delle immagini basato su intelligenza artificiale e biometria è efficace. In Cina per la terza volta un soggetto nel mirin delle forze dell'ordine è stato catturato proprio grazie all'analisi video: si tratta di un uomo identificato dai media solo come “Yu”, che dal 2015 era ricercato per mancati pagamenti su un acquisto di patate. Il ladro di ortaggi è stato intercettato dalle videocamere a circuito chiuso mentre si allontanava dallo stadio di Zhejiang Sheng, nella Cina orientale, dopo aver assistito a un concerto musicale.

Aggiornamento:

Attraverso una nota ufficiale Amazon ha voluto sottolineare che è propria abitudine sospendere qualsiasi servizio per i clienti che vengano scoperti ad abusarne. Rekognition, ha detto l'azienda, è una tecnologia che consente di riconoscere in modo automatico persone, oggetti e azioni all'interno di immagini statiche o video, utile quindi per molte applicazioni. Molte agenzie l'anno usata per trovare persone rapide, i parchi di divertimento la usano per ritrovare i bambini smarriti, nelle nozze reali fra il principe Harry e Meghan Markle è stata impiegata per identifica i partecipanti alla cerimonia. “L'utilità dei servizi di intelligenza artificiali”, ha detto la società, “non farà che aumentare man mano che le aziende adotteranno Amazon Rekognition. La qualità della nostra vita sarebbe molto peggiore oggi se avessimo messo fuori legge le tecnologie nuove solo perché qualcuno potrebbe decidere di abusarne”.