(Immagine generata con AI)
OpenAI e la sua intelligenza artificiale tornano sotto ai riflettori, nel bene e nel male. Le notizie di questi giorni parlano dell’ennesimo caso di agenti AI fuori controllo, ai danni del sito web tedesco DseWiki; ma parlano anche di un’iniziativa a favore della cybersicurezza per cui la società di San Francisco investirà un miliardo di dollari.
Un’esclusiva di Reuters ha svelato che lo scorso maggio, mentre OpenAI conduceva attività interne di test, suoi agenti AI hanno fatto intrusione in DseWiki, un sito Web tedesco in stile "wiki" rivolto ai programmatori.
L’episodio è stato scoperto da alcuni ricercatori informatici, tra cui Sydney Von Arx, Ceo della società di sicurezza nonprofit Nightingale. Dal report dei ricercatori, visionato da Reuters, si apprende che gli agenti AI hanno modificato la wiki con oltre 15mila operazioni di editing. E quando, nel mese di giugno, il moderatore del sito ha iniziato a cancellare le pagine create dagli agenti AI, questi ultimi hanno reagito creando pagine di backup per aggirare l'operazione di pulizia. L’attività di editing si è protratta per settimane, tra maggio e giugno, per poi essere scoperta solo ad agosto.
Presumibilmente, durante il test (di addestramento o di valutazione, non è chiaro) OpenAI aveva assegnato agli agenti un compito di ricerca di informazioni sul Web, con possibilità di lettura ma non di scrittura. Gli agenti AI sono, però, riusciti a scavalcare la restrizione sfruttando un metodo del protocollo HTTP per lo scambio di dati tra client e server; scoperto il trucco, gli agenti AI hanno condiviso tra di loro questa informazione. “Sembra estremamente improbabile che OpenAI volesse che lo facessero”, ha commentato Von Arx. “Dubito che debbano coordinarsi tra loro. Dubito che debbano scrivere sull’Internet pubblico”.
Ma siamo certi dell’origine del misfatto? Abbastanza. I messaggi su DseWiki erano firmati da utenti che si riferivano l’uno all’altro come ad “agenti”, e in diversi casi i nickname contenevano riferimenti diretti a OpenAI (OpenAIResearcher, OAIResearchMar26, eccetera). I log pubblici dei server, inoltre, indicavano che gran parte dell'attività proveniva dall'infrastruttura di Microsoft Azure, che talvolta viene usata da OpenAI per i propri test. Come ulteriore indizio di un collegamento tra il fattaccio e l’aziena di Altman, i ricercatori hanno osservato visite ripetute a DseWiki da parte di dipendenti di OpenAI dopo l'episodio.
“Non siamo in grado di dare una significativa risposta alle accuse o scoperte di un report che ancora non abbiamo avuto occasione di valutare”, ha dichiarato OpenAI tramite portavoce. “Reuters e gli autori del report hanno declinato le nostre richieste di accesso. Valuteremo attentamente i contenuti in seguito alla pubblicazione e attueremo le eventuali mosse necessarie”.
Un “regalo” da un miliardo di dollari per la cybersicurezza
Gli eventi di quest’estate hanno palesato come l’Agentic AI necessiti di maggiori controlli, altrimenti ci sfuggirà di mano con conseguenze al momento ancora non prevedibili. Hackeraggi, furto di dati e manomissioni sono solo alcune delle possibilità, peraltro nemmeno troppo teoriche visti di casi di Gpt-5.6 Sol, Claude e Muse Spark 1.1. E la nuova scoperta di manomissione del sito wiki tedesco aggiunge una nuova casistica del rischio.
Non si può dire che le aziende sviluppatrici di AI siano all’oscuro del problema o lo ignorino, e tuttavia il continuo rilascio di modelli sempre più evoluti e potenti non si arresta. Anthropic, per esempio, con l’iniziativa Project Glasswing sta mobilitando una selezione di vendor e di clienti (inizialmente una cinquantina, ma arriveranno a 200) per valutare i potenziali rischi di Claude Mythos ma anche per usare quest’ultimo come strumento di caccia alle vulnerabilità su larga scala. OpenAI, invece, con Daybreak ha lanciato una piattaforma tecnologica basata su AI per la cybersicurezza, dalla scansione del codice alla generazione e distribuzione di patch.
Ora in seno a questa iniziativa ne nasce un’altra, chiamata Daybreak for Frontline Defenders. OpenAI metterà a disposizione le proprie tecnologie di cybersicurezza e servizi di formazione e supporto, per un miliardo di dollari di valore: potranno accedervi, in questa prima fase, le organizzazioni statunitensi che erogano servizi critici, come agenzie governative federali e locali, fornitori di energia elettrica e acqua, società nonprofit, banche di comunità.
"Nei prossimi mesi, man mano che i modelli in tutto il mondo acquisiranno capacità sempre maggiori, gli attacchi informatici basati sull'intelligenza artificiale diventeranno molto più diffusi e sofisticati”, ha dichiarato OpenAI a margine dell'annuncio. "Il nostro obiettivo è utilizzare l'AI di frontiera per rendere i sistemi da cui dipendono gli americani più difficili da attaccare e più facili da riparare".
L’annuncio arriva a breve distanza dal lancio di Gpt-6 Astra, il nuovo LLM di OpenAI, definito come un “salto generazionale” verso l’intelligenza artificiale generale, totalmente autonoma. Gli intrecci e le ambivalenze dell’AI rispetto alla cybersicurezza, ma forse alla sicurezza nell’accezione più ampia, diventano sempre più stretti e marcati. La posta in gioco si alza: i vendor ne sono consapevoli e fanno di tutto per mostrarsi coinvolti, responsabili e anche generosi (vedi l’investimento da un miliardo di dollari di OpenAI) nel contribuire alla vittoria del bene. Ma si alza anche la posta in gioco economica dell’intelligenza artificiale, in uno scontro tra grandi player che si gioca anche sulla velocità dei rilasci.
Il legame ormai inscindibile tra AI, rischio e sicurezza informtica emerge anche dall’ultimo report della stessa OpenAI sul tema. Qui si parla, tra le altre cose, della capacità degli agenti AI di sfruttare le vulnerabilità in tempi velocissimi, anche con exploit concatenati. “Attacchi complessi che in precedenza erano impraticabili possono ora essere condotti in modo autonomo”, scrive l’azienda. I difensori, però, avrebbero due “vantaggi strutturali”, ovvero di poter dare agli agenti accesso diretto al proprio codice e di poter usare modelli di frontiera per ottenere un vantaggio iniziale sugli attaccanti, che invece si affidano soprattutto a LLM open-weight.