Non c’è due senza tre: anche un modelli AI di Meta si dimostra capace di diventare hacker, come già accaduto con l’intelligenza artificiale di OpenAI e Anthropic. Anche in questo caso l’episodio si è verificato durante test di sicurezza e anche in questo caso la responsabilità sembra ricadere su un “soggetto terzo”, cioè sulla società che realizza valutazioni indipendenti per Meta. Si tratta di Irregular, una startup israeliana che sul proprio sito Web afferma di volere essere “un passo avanti rispetto alle minacce e le vulnerabilità emergenti”, per garantire che “tecnologie trasformative possano essere implementate in modo sicuro e protetto”.
Il modello AI protagonista dell’episodio, secondo le indiscrezioni di The Information, sarebbe Muse Spark 1.1, il più recente frutto del lavoro dei Meta Superintelligence Labs, presentato un mesetto fa. Si tratta di un modello di ragionamento multimodale specializzato nella comprensione di video e audio, nel coding e nei task “agentici”.
Durante il test, il modello ha hackerato un sistema IT di un’azienda e lo ha fatto sfruttando “una vulnerabilità di sicurezza in un servizio di una terza parte, in modo simile ai casi riportati da altre azienda”, ha scritto Meta, alludendo agli episodi di OpenAI e Anthropic. Nel caso della società di Sam Altman, l’agente di intelligenza artificiale aveva sfruttato una vulnerabilità non nota per riuscire ad accedere a Internet e aveva successivamente hackerato la piattaforma Huggingface per trovare la soluzione al problema assegnatogli nel test. L’episodio che ha coinvolto Claude Opus 4.7 e Mythos 5, invece, è nato da errori di configurazione.
In quest’ultimo caso i dettagli scarseggiano. ma Irregular si è sostanzialmente presa la colpa, ammettendo un errore di configurazione e specificando che non ci sarebbero state fughe da sandbox né sofisticate azioni cyber. Parole che vogliono suonare come una rassicurazione ma lo sono solo in parte: nella casistica dei rischi associati all’intelligenza artificiale bisogna includere anche il fattore umano, quindi gli errori di configurazione, i controlli mancanti, gli aggiornamenti di sicurezza non installati. Per arginare il rischio cyber, mentre i sistemi di intelligenza artificiale diventano sempre più evoluti e capaci di agire, è essenziale considerare anche questi aspetti e smettere di derubricarli come disattenzioni che capitano.
“Al momento non vi sono questioni in sospeso. Irregular sta elaborando un white paper per condividere best practice per il contenimento e lo svolgimento sicuro di valutazioni di sicurezza informatica", ha dichiarato Irregular. Ironico che ci sia bisogno di un lavoro di questo tipo per un’azienda che è nata proprio per realizzare test di sicurezza sull’intelligenza artificiale, e che vanta tra i propri clienti quattro dei maggiori sviluppatori di AI, cioè OpenAI, Anthropic, Google e Meta.