L'imprenditrice cinese Dong Mingzhu è inciampata nell'epic fail, è il caso di dirlo, di un sistema di intelligenza artificiale non poi così intelligente. Un sistema che l'ha accusata di essere un pedone irresponsabile, che attraversa la strada con il semaforo rosso (gli anglosassoni hanno un vocabolo specifico, jaywalker), quando invece la donna non era nemmeno lì: al suo posto, una fotografia pubblicitaria su un autobus. Classe 1954, amministratore delegato della società produttrice di elettrodomestici Gree Electric, l'imprenditrice è nota internazionalmente per i suoi successi e per il suo stakanovismo, ma è diventata protagonista di un fatto di cronaca tecnologica allo stesso tempo risibile e preoccupante.

In un Paese sempre più tappezzato di sistemi di videosorveglianza di vario genere, installati in luoghi pubblici e persino nelle scuole, si stanno diffondendo applicazioni che combinano le videocamere e i software di riconoscimento facciale a maxischermi installati in bella vista: qui campeggiano i volti e i nomi dei pedoni colpevoli di infrazioni al codice di sicurezza stradale. Un'operazione di naming e shaming il cui lodevole fine è quello di disincentivare i comportamenti prudenti, ma che solleva – almeno se vista dall'Europa – perplessità e timori di violazione della privacy.

A seconda delle scelte dell'amministrazione cittadina, alcuni di questi sistemi mostrano soltanto la fotografia del pedone oppure la corredano con nome, cognome e numero di carta di identità. Si realizza, in ogni caso, una mappatura degli spostamenti di centinaia di migliaia di persone, considerando che sullo schermo di un singolo sistema posizionato in un incrocio di Pechino sono comparse le facce di quasi 14mila persone in dieci mesi. E ancor più preoccupante è il fatto che l'intelligenza artificiale possa sbagliare, umiliando pubblicamente persone innocenti.

L'installazione di Ningbo, metropoli da 7,6 milioni di abitanti a due ore d'auto da Shangai, ha catturato in un incrocio e identificato il volto di Dong Mingzhu: per il sistema di riconoscimento facciale, la donna stava attraversando la strada nonostante il semaforo in quel momento rosso per i pedoni. L'attribuzione era corretta, peccato che si trattasse semplicemente di una fotografia, un'immagine pubblicitaria piazzata all'esterno di un autobus che passava in quel momento. Ammesso l'errore, la polizia di Ningbo ha fatto sapere di aver aggiornato il sistema per evitare che incappi in simili sbagli in futuro. In ogni caso la fallibilità delle tecnologie basate sulla raccolta ed elaborazione di dati video e sul riconoscimento dell'immagine fa riflettere: di certo si dovrà lavorare ancora prima di ammettere su strada le automobili a guida autonoma (driverless) su cui aziende come Tesla, Waymo, Uber, Apple e Intel stanno scommettendo.