Sas: intelligenza artificiale, paure esagerate

C’è più sostanza o più hype nelle promesse dell’intelligenza artificiale? E i rischi di cui oggi tanto si parla sono ipotetici, realistici, oppure le preoccupazioni sono infondate? Secondo Sas, un colosso del software che di AI si occupa da più vent’anni, i toni da “fine del mondo” dell’attuale dibattito mediatico (ma espressi anche dalla comunità dei ricercatori e dei tecnologi) sono un’esagerazione, sebbene sia fondamentale discutere delle questioni etiche, di sicurezza e di trasparenza dell’intelligenza artificiale. Questa è la linea di pensiero espressa da Reggie Townsend, vicepresidente data ethics practice di Sas, in un incontro con la stampa durante la recente tappa milanese del roadshow “Sas Innovate”.

“Sono grato del fatto che lo scorso novembre ChatGPT sia stato reso disponibile commercialmente”, ha esordito Townsend, “e che quattro mesi dopo OpenAI ci abbia dato una versione ancora migliore della tecnologia: questo ha stimolato un dibattito sui rischi e benefici dell’intelligenza artificiale”. Il manager (che è anche membro del consiglio di amministrazione della no-profit EqualAI, nonché della National Artificial Intelligence Advisory Committee nominata dal Dipartimento del Commercio degli Stati Uniti) ha ammesso che alcuni dei rischi di cui oggi si discute sono fondati. “Certo che sì”, ha detto, rispondendo ai giornalisti. “Dobbiamo preoccuparci del modo in cui i dati vengono usati, dobbiamo essere sicuri che siano eticamente rappresentati non solo in ChatGPT ma anche in altri sistemi, dobbiamo assicurarci che le informazioni siano accurate, che ci sia una explainabiilty anche tecnica, cioè che gli esperti possano spiegare alle persone comuni come l’AI funzioni”.

“Tuttavia”, ha proseguito Townsend, “oggi il dibattito sui rischi ha toni da fine del mondo. Penso che questo sia eccessivo e stia spaventando le persone. Dovremmo smetterla, credo che dovremmo essere attenti a quello che sta accadendo e avere una mentalità aperta, ma dovremmo cercare di negare alcuni dei sensazionalismi. Dovremmo essere più preoccupati di alcune delle questioni di breve termine legate all’AI, come la qualità dei dati”.

Il ruolo delle Big Tech nello scenario normativo
L’esperto di tecnologia responsabile ha anche sottolineato che l’AI esiste da tempo, da decenni, e la stessa Sas per 25 anni ha lavorato con le reti neurali artificiali e lo ha fatto cercando di combinare le ragioni del profitto con i principi etici, di trasparenza, privacy e governance. Solo di recente, però, gli sviluppi dell’AI hanno avuto una forte risonanza mediatica e hanno avviato in tutto il mondo, sui tavoli della politica, una discussione sulle regole da fissare per arginare potenziali rischi e abusi. La privacy, il diritto d’autore, la trasparenza sui dati, il contenimento del bias sono alcune delle questioni da affrontare anche sul piano normativo.

Reggie Townsend, vicepresidente data ethics practice di Sas e membro della National Artificial Intelligence Advisory Committee

“Alcune delle ultime innovazioni stanno accelerando le attività regolatorie, ma credo che ci troviamo un po’ all’interno di un hype cycle”, ha proseguito il vice president di Sas. “Il ritmo della tecnologia è naturalmente più rapido di quello delle regolamentazioni. In certi casi è opportuno rallentare con l’innovazione ma d’altra parte è rischioso regolamentare qualcosa che non è ancora sicuro. Bisogna avere esperienze disponibili quando si traccia una legislazione, e potrebbero esserci conseguenze se i legislatori creano leggi senza avere sufficienti competenze sul tema”.

Non a caso, sia negli Stati Uniti sia in Europa le istituzioni si sono rivolte ad aziende come Alphabet (uno tra i pionieri dell’AI e oggi impegnata a integrarla in tutto l’ecosistema Google) per avere consulenza. “Realisticamente”, ha commentato Townsend, “avremo un piccolo numero di aziende che forniscono esperienza ai governi, cinque o sei compagnie di grandi dimensioni, a cui si affiancheranno no-profit e organizzazioni della società civile. Incoraggerei un maggiore coinvolgimento”.

L’accoppiata tra AI e analytics
Sul palco del “Sas Innovate” il manager ha ribadito le fondamenta del pensiero di Sas sull’intelligenza artificiale: gli algoritmi devono essere ripetibili, accurati, spiegabili. I quattro pilastri della sua azienda per una AI responsabile sono la supervisione, i controlli, la solidità della piattaforma software e la cultura. “Vogliamo essere etici by design”, ha sintetizzato Townsend.

Sebbene negli ultimi mesi siano stati altri i nomi al centro di molte notizie, di investimenti e novità tecnologiche nell’ambito dell’AI (Microsoft, OpenAI, Alphabet, Baidu), in questo campo Sas fa sul serio e vuol essere un punto di riferimento. L’azienda può vantare una piattaforma per gli analytics di intelligenza artificiale, Sas Viya, che non ha rivali in termini di velocità e convenienza. In un’analisi di benchmarking di The Futurum Group è stata paragonata ad altre piattaforme di AI analytics, sia commerciali sia open source (tra cui H20 e SparkML), risultando vincente in 96 test su cento.

“In media, Sas Viya è trenta volte più veloce rispetto alle altre piattaforme”, ha illustrato Marinela Profi, product marketing lead di Sas. “Com’è possibile? Grazie a una combinazione di calcolo, data e matematica si ottengono performance di AI e analytics ottimizzate. Tutti e tre questi elementi sono costruiti per funzionare insieme in modo ottimale”.

(Immagine: Sas)

Sas ha annunciato di voler investire un miliardo di dollari nei prossimi tre anni per i sviluppo di ulteriori soluzioni di analytics verticali, destinate al settore bancario, pubblico, assicurativo, sanitario, commerciale, manifatturiero ed energetico; tutte verranno eseguite su Sas Viya. L'investimento finanzierà i nuovi progetti dei data scientist, degli statistici e degli sviluppatori software di Sas, oltre a coprire attività dirette di ricerca e sviluppo e campagne di marketing.

“Le organizzazioni devono affrontare molte sfide, dalla minaccia della recessione economica e le crisi delle supply chain fino alla scarsità della forza lavoro e i continui cambi di regolamentazione”, ha dichiarato Jim Goodnight, amministratore delegato di Sas. “Grazie agli insight di analytics specifici per le aziende, le organizzazioni più resilienti posso trovare opportunità in queste sfide. Con questo investimento, grazie all’AI, al machine learning e agli advanced analytics, Sas continuerà a supportare le aziende nella lotta alle frodi, nella gestione del rischio, nel fornire servizi di qualità a clienti e cittadini e molto altro”.

Per quanto riguarda, più nello specifico, l’intelligenza artificiale, Sas si focalizzerà sulle aree della explainability e delle app moderne. “Lavoriamo per aiutare le persone a capire e interpretare i modelli, in modo che l’AI non sia una scatola nera. Inseriamo funzionalità che aiutano a tracciare quello che sta in mezzo, tra i dati e le risposte fornite dall’AI”, ha spiegato Townsend. Inoltre l’azienda esplorerà le opportunità dei dati sintetici, che permettono di ottenere rilevanza statistica (fatto utile in alcuni ambiti, per esempio nello studio di malattie rare, su non esistono trial clinici di dimensioni significative) senza rischi di violazioni di privacy o di scarsa inclusività.