Quasi ogni giorno spuntano nuove notizie su ChatGPT, la tecnologia di intelligenza generativa su cui Microsoft ha messo le mani investendo nella società sviluppatrice, OpenAI. Questa tecnologia sta attraendo molta curiosità ma anche timori per il rischio che il chatbot veicoli errori (come ha fatto anche il chatbot di Google), manipolazioni della verità o tentativi di condizionamento. Il bias è un problema connaturato all’AI e può essere instillato volontariamente all’interno di un programma o semplicemente essere l’effetto dei dati di partenza usati per allenare l’algoritmo.
Un nuovo ChatGPT personalizzabile
OpenAI da mesi sta lavorando per migliorare il programma sulla base dei feedback raccolti da chi lo sta già utilizzando. La startup di San Francisco è consapevole del problema del bias e delle possibili “derive ideologiche” del chatbot, per così dire. Allo stesso tempo, vuole preservare il pluralismo delle opinioni. Per questo l’azienda sta sviluppando una nuova versione di ChatGPT altamente personalizzabile, che potrà essere “uno strumento utile per singoli individui”. Insomma, sarà possibile per ciascuno di noi crearsi un “chatbot personale”, che ci assista nel lavoro o nella vita privata? OpenAI non è scesa nei dettali ma ha spiegato che gli utenti potranno personalizzare il comportamento del chatbot pur entro certi “limiti definiti dalla società”. Possiamo immaginare, da questa sintentica indicazione, che non sarà possibile creare chatbot fiancheggiatori di razzismo, violenza, odio o criminalità. Tuttavia si potrà decidere di permettere al chatbot di dare risposte con cui “altre persone (e noi in prima persona) potrebbero fortemente dissentire”.
Trovare il giusto equilibrio non sarà facile, ammette l’azienda, perché portando la personalizzazione all’estremo c’è il rischio di permettere utilizzi malevoli o di creare una “intelligenza artificiale servile”, che amplifica le credenze delle persone a discapito della verità. “Ci saranno quindi sempre alcuni vincoli nel comportamento di un sistema”, scrive OpenAI. “La sfida è definire quali siano questi vincoli. Se cerchiamo di determinarli da soli o se cerchiamo di sviluppare un singolo, monolitico sistema di AI, allora falliremo nell’impegno, preso nel nostro atto costitutivo, di evitare le eccessive concentrazioni di potere”.
Linee guida migliori per evitare il bias
OpenAI sta anche cercando di rendere più comprensibile e più facile da controllare la fase finale o di “rifinitura” del processo di training dell’algoritmo. Nella prima fase, definita pre-training, i modelli ingeriscono miliardi di frasi per imparare la grammatica di una lingua, memorizzare una certa quantità di nozioni sul mondo e apprendere alcune capacità di ragionamento. Imparano, inoltre, a riconoscere le opinioni tendenziose tra i miliardi di frasi utilizzate nel pre-allenamento.
Nella seconda fase, definita di fine-tuning, i modelli vengono allenati su un dataset più ristretto prodotto da OpenAI con “revisori umani che seguono le linee guida da noi fornite”, ha spiegato l’azienda. “Poiché non possiamo prevedere tutti i possibili input che futuri utenti potranno inserire nel sistema, non scriviamo istruzioni dettagliate per ogni input che ChatGPT incontrerà”.
Gli sviluppi futuri di Bing
Anche Microsoft sta lavorando al miglioramento di ChatGPT. Da qualche giorno è cominciata la sperimentazione di una nuova versione del motore di ricerca Bing e del browser Edge: la tecnologia ChatGPT viene usata per fornire migliori risultati e risposte più complete alle query. Inoltre è stato introdotto uno strumento di chat per aiutare gli internauti a scoprire nuovi contenuti e a rifinire le ricerche.
Tutto questo, però, è stato reso disponibile solo come preview limitata su un gruppo di utenti dislocati in tutto il mondo. Nella prima settimana di sperimentazione si è vista una notevole interazione tra i risultati della tradizionale ricerca e le nuove funzionalità, come le risposte di sintesi alle query, la chat e strumenti di creazione dei contenuti. Il 71% degli utenti ha espresso apprezzamento per le risposte ottenute sulla base dell’intelligenza artificiale. E c’è stato un buon livello di utilizzo della funzione chat per scoprire nuove informazioni: è stata ritenuta facile da usare e da trovare.
Microsoft ha ammesso di aver ricevuto anche molti suggerimenti su come migliorare il prodotto. Lo sviluppo andrà in quattro direzioni. Innanzitutto, si dovrà migliorare la funzione di ricerca aumentando le fonti di dati e informazioni consultate dall’AI prima di produrre una certa risposta riguardante dati fattuali (per esempio, i numeri di un report finanziario). Gli utenti hanno apprezzato il fatto di poter trovare citazioni e referenze sotto alle risposte di Bing, dunque questo elemento sarà mantenuto. Inoltre Microsoft sta considerando l’idea di aggiungere un pulsante che permetta di scegliere se ottenere da Bing una risposta più precisa o più creativa, a seconda dell’argomento e della necessità.
Per quanto riguarda la chat, la sperimentazione ha evidenziato che alcune persone la utilizzano non per trovare informazioni ulteriori su un argomento bensì per “esplorare il mondo” e per “l’intrattenimento sociale”. Utilizzi a cui Microsoft non aveva pensato, ma che invece le persone hanno mostrato di gradire. La società ha ammesso che in certi casi, se vengono fatte più di 15 domande, Bing può diventare ripetitivo o, se provocato, può dare risposte “non necessariamente utili o in linea con il tono previsto” dagli sviluppatori.
Questo accade per due ragioni, a detta di Microsoft. Numero uno, le sessioni di domande e risposte molto lunghe possono mandare in confusione il modello, e per questo Microsoft sta valutando di inserire uno strumento che “resetta” la conversazione e la fa ripartire da zero. Numero due, il chatbot tende a rispondere riflettendo il tono della conversazione dell’utente, nel bene e nel male. Microsoft ha ammesso che questo è un problema non irrilevante e ha promesso che lavorerà per risolverlo.
In terzo luogo verranno affrontate alcune questioni tecniche ancora da perfezionare, come bug da risolvere, caricamenti lenti, link spezzati ed errori di formattazione. Infine, quarto punto,una parte degli utenti ha espresso il desiderio di nuove funzionalità in Bing, come la possibilità di prenotare voli aerei o di inviare email.