L’algor-etica mette d’accordo Microsoft, Ibm e Papa Francesco

Per Papa Francesco la tecnologia è un “dono di Dio”, ma è anche una questione delicata, nonché un mercato in cui “gli utenti sono spesso ridotti a ‘consumatori’, asserviti a interessi privati concentrati nelle mani di pochi”. E l’intelligenza artificiale accentua questa polarità tra impieghi benefici e potenzialmente lesivi della tecnologia. Un pontefice che si interessa di questi argomenti fino a qualche tempo fa sarebbe stato impensabile, e invece le implicazioni etiche e sociali dell’AI sono diventate tanto profonde e complesse da chiamare la Chiesa a esprimersi. 

È successo la settimana scorsa a Roma, in Vaticano, durante un’assemblea plenaria della Pontificia Accademia per la Vita i cui ospiti d’onore sono stati la Fao, il ministro dell’Innovazione Paola Pisano, il presidente di Microsoft Brad Smith e il vicepresidente di Ibm John Kelly, ovvero i firmatari di un nuovo documento titolato “Call for an AI Ethics”. Assente Papa Francesco a causa di un’indisposizione fisica, ma il testo del suo discorso è stato letto dall’arcivescovo Vincenzo Paglia.

Il documento certifica l’impegno a sostenere un approccio etico all’intelligenza artificiale e a promuovere tra organizzazioni, governi e istituzioni un senso di responsabilità condivisa. La Call è però solo il primo passo, un “primo tentativo nel formulare un insieme di criteri etici con comuni riferimenti di valore”, come spiegato dal monsignor Paglia, che dovrà poi estendersi ad altri soggetti, come “istituzioni pubbliche, Ong, industrie e gruppi”.

Nel suo discorso, Papa Francesco affronta il problema della disparità di conoscenza e di potere fra chi crea tecnologia (e nella fattispecie algoritmi e sistemi di AI) e chi ne è destinatario, ma anche oggetto: “Dalle tracce digitali disseminate in internet, gli algoritmi estraggono dati che consentono di controllare abitudini mentali e relazionali, per fini commerciali o politici, spesso a nostra insaputa. Questa asimmetria, per cui alcuni pochi sanno tutto di noi, mentre noi non sappiamo nulla di loro, intorpidisce il pensiero critico e l’esercizio consapevole della libertà. Le disuguaglianze si amplificano a dismisura, la conoscenza e la ricchezza si accumulano in poche mani, con gravi rischi per le società democratiche”. 

Il pontefice dà ovviamente un’interpretazione religiosa al problema dell’etica applicata all’AI, richiamandosi ai principi della Dottrina della Chiesa: dignità della persona, giustizia, sussidiarietà e solidarietà, che possono contribuire alla definizione di una “nuova frontiera che potremmo chiamare algor-etica”, nella quale le persone possono conoscere e verificare i processi determinati dagli algoritmi. Visti da un punto di vista più laico, questi principi sono coerenti con la visione di un’intelligenza artificiale “umano-centrica”, così come recentemente illustrata dal documento programmatico della Commissione Europea. In questo caso, l’attenzione è puntata sul problema della trasparenza nell’uso dei dati e sulla necessità di definire regole chiare, specie per le applicazioni che coinvolgono la sfera della salute, della sicurezza e del controllo sociale.

Gli impegni elencati nella  “Call for an AI Ethics” non sono diversi, ma semmai più estesi. I sistemi di intelligenza artificiale devono essere comprensibili, dunque trasparenti; devono essere inclusivi, cioè prendere in considerazione le esigenze di tutti gli esseri umani; devono essere responsabili in merito alle loro possibili conseguenze; devono essere imparziali, cioè non agire secondo il pregiudizio né alimentarlo; devono essere affidabili nel loro funzionamento; devono essere sicuri e rispettosi della privacy delle persone.