Seguendo un costume tipico di noi italiani, che abbiamo cattivi rapporti con il “palazzo”, anche il riconoscimento facciale di Amazon sembra fidarsi molto poco dei politici, al punto da equipararli a dei delinquenti. Un test condotto dall’American Civil Liberties Union (Aclu) ha svelato l’ancora scarsa affidabilità degli algoritmi intelligenti del colosso di Seattle, i quali hanno scambiato 28 membri del Congresso statunitense per persone con precedenti penali. L’esperimento è stato condotto su un database di 25mila foto segnaletiche di individui con problemi giudiziari di vario genere: le immagini sono state confrontate con quelle di 535 deputati e senatori a stelle e strisce. E, come detto, in ben 28 casi è scattato l’errore di riconoscimento. Una falla che potrebbe causare problemi seri. Basti pensare all’eventuale utilizzo di questi algoritmi nelle videocamere di sorveglianza e nelle indagini di polizia: che cosa accadrebbe se a essere arrestata o interrogata fosse una persona completamente innocente, ma confusa dal software per qualcun altro?

La soluzione di Amazon utilizzata nel test dell’Aclu è Rekognition, già al centro di aspre accuse avanzate in passato dalla stessa organizzazione per i diritti civili, che ha contestato il suo utilizzo in via sperimentale da parte delle forze dell’ordine statunitensi. E gli errori in cui è incappata ora l’intelligenza artificiale sono ancora più evidenti se si valutano parametri come le etnie di appartenenza dei rappresentanti del Congresso.

Pur avendo scambiato indifferentemente per criminali donne e uomini, giovani e anziani, caucasici, afroamericani o ispanici, gli algoritmi hanno sbagliato più di frequente quando hanno analizzato le fotografie di parlamentari di colore. Deputati e senatori neri, infatti, in termini numerici costituiscono soltanto un quinto del Congresso, ma nel test hanno rappresentato il 39 per cento degli errori.

Punti sul vivo, tre esponenti democratici identificati da Rekognition come malviventi hanno scritto una lettera aperta a Jeff Bezos, Ceo di Amazon, per esprimere la propria preoccupazione e per saperne di più sulla precisione della versione del software utilizzata dalla polizia. L’Aclu, inoltre, ha chiesto ufficialmente al Congresso di procedere con cautela nell’adozione di soluzioni di questo genere, attuando al contempo una moratoria sull’impiego degli algoritmi da parte delle forze dell’ordine.

 

I 28 esponenti del Congresso Usa identificati come malviventi da Amazon Rekognition

 

Bezos al momento non si è fatto vivo, ma secondo il New York Times (articolo con paywall) un portavoce di Amazon avrebbe contestato l’impostazione del test. La società consiglia infatti di scegliere un livello di confidenza al 95 per cento, mentre l’Aclu avrebbe fissato il paletto all’80 per cento. Inoltre, secondo il colosso dell’e-commerce i risultati andrebbero poi sempre verificati da una persona in carne e ossa.

Rekognition è stato lanciato da Amazon nel 2017 durante la conferenza re:Invent 2017 e lavora tramite Api, con la possibilità quindi di integrare il servizio in una miriade di applicazioni diverse. Una soluzione simile a quella offerta anche da Google, con le sue Vision Api, ma che evidentemente necessita ancora di numerose migliorie. D’altronde, l’intelligenza artificiale è una delle grandi promesse del futuro, ma la strada per arrivare alla perfezione sarà ancora lunga.