(Immagine generata con AI)
L’intelligenza artificiale presto sarà in grado di “autoreplicarsi” e di colonizzare dispositivi di domotica, come forni e smart Tv. Non è un film di fantascienza e non è nemmeno l’incubo di un apocalittico dell’AI, bensì una prospettiva considerata come probabile da chi l’intelligenza artificiale la crea e la mette alla prova: Anthropic, ovvero lo sviluppatore di LLM più d’avanguardia insieme alla concorrente OpenAI.
A un mese di distanza dall'appello di Dario Amodei sulla necessità di regolare i modi e le tempistiche dello sviluppo dell’AI, la sua azienda ha reso noti i risultati di alcuni esperimenti condotti su vari modelli di intelligenza artificiale, di varia dimensione. Potrebbe mancare poco, questione di mesi, prima di osservare modelli AI capaci di “autoreplicarsi”, un po’ come fanno i worm, e di propagarsi su dispositivi Internet of Things. E infatti si parla qui di AI worm: per ora una possibilità teorica, ma ci stiamo arrivando.
“I nostri esperimenti suggeriscono che potrebbero mancare solo pochi mesi al momento in cui i modelli di AI di piccole dimensioni saranno sufficientemente capaci da autoreplicarsi su dispositivi commerciali dell'Internet of Things (IoT), come forni intelligenti e box Android TV di marchi minori”, scrivono a quattro mani i ricercatori William Zhou e Daniel Freeman, raccontando poi che nel corso degli esperimenti un modello da 9 miliardi di parametri è riuscito a eseguire l’inferenza su otto delle nove tipologie di hardware testate.
Vero è che il processo di autoreplica di un AI worm potrebbe risultare lento, con un “tempo di duplicazione” nell'ordine di giorni, ma d'altro canto bloccare un “replicatore” di questo tipo sarebbe difficile poiché non esiste un punto centrale da disattivare. Inoltre, a differenza dei malware tradizionali, un AI worm potrebbe riuscire a capire, in autonomia, il funzionamento di dispositivi sconosciuti, per poterli così compromettere.
Uno dei “modelli di minaccia” ritenuto più vicino a concretizzarsi è quello di modelli di piccole dimensioni che si replicano compromettendo gli host. I ricercatori parlano di “replicatori basati sui pesi” per indicare gli AI worm autonomi che eseguono i propri modelli direttamente sull'hardware compromesso. I dispositivi IoT domestici e aziendali potrebbero rappresentare il primo bersaglio di tali attacchi, sia perché sono connessi a Internet sia perché, tipicamente, sono protetti da misure di sicurezza scarse.
Frigoriferi e forni smart, aspirapolvere robotizzati e tosaerba automatici sono esempi di dispositivi su cui potrebbe essere eseguito un modello da meno di 30 miliardi di parametri. Un modello troppo grande per essere ospitato su un singolo dispositivo, invece, potrebbe dividersi in parti, o shard, eseguite su macchine distinte e comunicanti tra loro. I ricercatori sottolineano anche la presenza di chip AI integrati in telecamere di sicurezza e sistemi di videoconferenza di nuova generazione: è probabile che questa ulteriore capacità di calcolo li renda, a loro volta, obiettivi interessanti.
Quanto manca perché questa teoria si traduca in pratica? Per gli Small Language Model parliamo di tempi davvero ravvicinati. “Se i modelli di piccole dimensioni continueranno a migliorare al ritmo storico osservato finora, raggiungeranno questo livello di capacità entro la fine dell'anno. Poco dopo, potrebbero diventare realizzabili anche piccoli replicatori basati sui pesi del modello”, si legge nel blog post di Anthropic. “Già oggi, i modelli da 30 miliardi di parametri o meno sono in grado di completare molte delle singole fasi necessarie alla replicazione, pur commettendo errori quando si tratta di integrarle in un processo continuo (end-to-end). Nelle nostre valutazioni semplificate, il modello GLM-5.2 e quelli più potenti si sono dimostrati capaci di eseguire la replicazione end-to-end”.
Oltre agli oggetti IoT, i ricercatori immaginano però anche altri possibili canali di propagazione degli AI worm. Un’ipotesi è quella di replicatori basati su Api, con modelli che creano copie di sé sottraendo le credenziali per la propria API di inferenza. Rispetto alla propagazione via IoT, in questo caso l’attività sarebbe più rapida ma anche più facile da rilevare.
Zhou e Freeman descrivono anche un ipotetico replicatore weight-based di grandi dimensioni, concepito per operare all’interno di un data center. Si contemplano qui due possibilità, a seconda che il modello sia a peso chiuso oppure open-weight: nel primo caso i ricercatori parlano di “replicatori frontier", eseguiti sull'infrastruttura del laboratorio di origine, in grado di avviare istanze interne non monitorate o di esfiltrare i propri pesi verso risorse di calcolo esterne; di contro, i replicatori a pesi aperti non possono sfruttare le risorse di calcolo di un laboratorio ma in compenso possono operare fin da subito in assenza di monitoraggio.
Le ultime notizie giunte da Anthropic, insieme al recente appello di 400 ricercatori che invocano maggiori controlli e trasparenza sugli incidenti cyber causati dall’AI fuori controllo, tengono aperto il dibattito sulla natura e sulla portata di questa tecnologia. Potrà prendere il sopravvento sull’umanità, come temono gli apocalittici che la considerano addirittura un rischio esistenziale, o sarà una forza benefica foriera di progresso e di ricchezza, come nella visione proposta dai vendor? Probabilmente nessuno di questi scenari estremi corrisponderà al futuro, perché ogni tecnologia si presta a utilizzi benevoli e malevoli. Nel caso dell’AI, viste l’ampiezza delle sue capacità inedite e vista la rapidità del progresso tecnologico, il futuro è quanto mai impossibile da prevedere ma le scelte del presente avranno un peso.