23/11/2023 di redazione

L’intelligenza artificiale “matematica” preoccupa i ricercatori di OpenAI

Secondo indiscrezioni, l’azienda di Sam Altman starebbe sviluppando una tecnologia di AI capace di risolvere problemi matematici. E gli stessi ricercatori mettono in guardia sui rischi.

intelligenza-artificiale-matematica-openai-rischio.jpg

L’intelligenza artificiale generativa di OpenAI è una minaccia per l’umanità? Non sarebbe la prima volta che toni estremi, quasi da fine del mondo, vengono sollevati per parlare della rivoluzione tecnologica che ha segnato il 2023 e che, a detta di molti, avrà impatti profondi sulla società e sull’economia e sulla geopolitica mondiale. Oltre ai risvolti della GenAI sull’occupazione, sulla cybersicurezza e sull’informazione, c’è chi teme che i più evoluti large language model possano, in futuro, sostituirsi all’uomo nelle decisioni più cruciali, dentro alle aziende, negli ospedali, nelle istituzioni.

Tutti questi ragionamenti sono ipotetici e ancora fumosi, specie di fronte alle devastazioni reali delle guerre in corso. Ma ora sono gli stessi dipendenti di OpenAI (uno dei principali esponenti del mercato dell’AI generativa, di cui ultimamente si è parlato per via dell’uscita e del rientro del Ceo, Sam Altman) a dirsi preoccupati. Secondo due fonti confidenziali di Reuters, numerosi ricercatori di OpenAI avrebbero scritto una lettera ai membri del Cda per metterli in guardia su una “potente scoperta” che potrebbe minacciare l’umanità.

Il contenuto esatto della lettera non è noto, ma Reuters rimarca che tra le ragioni del licenziamento di Altman c’erano state alcune preoccupazioni del Cda sulla commercializzazione di tecnologie di cui ancora non si comprendono le potenziali conseguenze. L’azienda non ha risposto alla richiesta di conferme dei giornalisti ma, secondo un’ulteriore indiscrezione, alcuni dipendenti sarebbero stati informati di un progetto battezzato Q* (pronunciato Q-Star) e potenzialmente rivoluzionario.

Si tratterebbe di una tecnologia di Artificial General Intelligence capace di risolvere problemi matematici. A differenza di un calcolatore, l’intelligenza artificiale può anche fare delle deduzioni, apprendere e comprendere i problemi. E questo, unito alla nuova conquista dell’abilità matematica, avvicina sempre di più l’AI al funzionamento di un cervello umano. Al momento, il livello di abilità è quello di uno studente della scuola primaria, ma secondo la fonte anonima i ricercatori di OpenAI sono molto ottimisti riguardo al successo futuro di Q*. Questa tecnologia potrebbe trovare impiego, per esempio, in nuovi campi di ricerca scientifica. 

Nella lettera inviata al Cda, i ricercatori avrebbero definito questa tecnologia come un potenziale pericolo, ma le fonti di Reuters non hanno svelato quale sia, esattamente, la loro preoccupazione. Si mormora, inoltre, che all’interno di OpenAI lavori un gruppo di “scienziati dell’AI” che sta studiando come ottimizzare i modelli di intelligenza artificiale esistenti con nuove abilità matematiche e di ragionamento.

 

scopri altri contenuti su

ARTICOLI CORRELATI