Il dibattito sul rapporto tra intelligenza artificiale e cybersicurezza oggi è sotto ai riflettori, e basti pensare al recente caso di GPT-5.6 Sol, modello di OpenAI recentemente balzato agli onori della cronaca per aver hackerato la piattaforma Hugging Face. Ma questo rapporto è anche una questione (teorica e pratica) su cui gli addetti ai lavori della cybersicurezza si interrogano.
Le aziende sviluppatrici di AI generativa e agentica hanno affrontato deliberatamente la questione della scoperta di vulnerabilità affidata dall’intelligenza artificiale. OpenAI ha creato Aardvark, poi confluito in Codex; Google DeepMind ha annunciato Big Sleep, disponibile internamente ai ricercatori del Project Zero; Anthropic ha seguito la stessa strada offrendo un accesso selettivo a Claude Mythos Preview. Il timore di possibili utilizzi malevoli di tali tecnologie hanno spinto queste aziende a limitare l’accesso e a lanciare programmi di verifica collettiva, come l'iniziativa Project Glasswing di Anthropic.
La scoperta delle vulnerabilità è però solo un aspetto della cybersicurezza. I modelli di intelligenza artificiale di frontiera sono in grado di gestire l'analisi autonoma e a lungo termine dei malware? Possono svolgere da soli un’attività complessa come il reverse engineering? I ricercatori di SentinelOne hanno lavorato per trovare delle risposte, con un esperimento che ha tra i suoi protagonisti GPT-5.6 Sol e i suoi predecessori.
“Sin dall'arrivo di ChatGPT alla fine del 2022, abbiamo creduto fermamente nel potenziale dei modelli linguistici di grandi dimensioni per il reverse engineering e l'analisi dei malware”, scrivono i ricercatori di SentinelOne Juan Andrés (vicepresidente della divisione Intelligence and Security Research) e Gabriel Bernadett-Shapiro (distinguished AI research scientist). “I primi modelli erano utili a scopo didattico ma troppo rudimentali per un utilizzo operativo, ma la situazione è cambiata con l'avvento dei modelli di ragionamento”.
Il modello o1-preview di OpenAI, rilasciato nel settembre 2024, è stato il primo a dimostrare una capacità di risoluzione dei problemi complessi e prolungati, necessaria per un’attività come il reverse engineering. Il ricercatore Sean Heelan ha poi utilizzato o3, modello di ragionamento lanciato da OpenAI nel 2025, per scoprire una vulnerabilità inedita nel kernel Linux. “Tuttavia, nel campo della sicurezza informatica, la nostra percezione delle capacità di questi modelli rimane limitata alla sola scoperta di vulnerabilità”, scrivono i ricercatori di SentinelOne.
Su queste premesse la divisione ricerca di SentinelOne, SentinelLabs, ha sviluppato un benchmark sul reverse engineering a più fasi /otto) per i modelli di frontiera di ultima generazione. Il benchmark ha tratto le mosse da una recente indagine della stessa SentinelOne su fast16, un toolkit di cyber-sabotaggio per Windows risalente al 2005.
Da dove nasca l'esigenza di un nuovo benchmark è presto detto: la maggior parte degli schemi di valutazione e misurazione dell’intelligenza artificiale si focalizza su compiti circoscritti che l’AI è più o meno in grado di svolgere. SentinelOne, invece, voleva verificare se i modelli AI riuscissero a svolgere indagini su malware prolungate, rimanendo affidabili, e confrontandosi anche con nuove prove e smentite delle conclusioni precedenti, proprio come tipicamente accade in una investigazione cyber.
Visualizzazione dell'attività di GPT-5.6 Sol su fast16 (Immagine: SentinelOne)
I risultati dell’esperimento
Ebbene, i modelli GPT-5.5, GLM-5.2 e la famiglia Opus 4.x hanno prodotto valide analisi circoscritte e si sono rivelati anche molto utili per velocizzare il lavoro (un’azione di reverse engineering che aveva richiesto tre settimane a un esperto è stata svolta da Opus 4.6 e GPT-5.4 in dieci ore), fungendo da ottimi assistenti AI. Nessuno dei modelli citati, però, ha saputo portare a termine l'intero percorso investigativo. GPT-5.6 Sol è stato l'unico modello AI, tra quelli oggi disponibili al pubblico, a completare l'intera indagine in otto fasi: ha saputo ritirare le conclusioni smentite da nuove prove, correggere artefatti tecnici e aggiornare la documentazione correlata, e il tutto senza perdere il filo dell'investigazione.
Nell’esperimento è capitato che il modello di OpenAI dichiarasse completate alcune azioni, salvo poi trovare problemi in revisioni successive. L’aspetto importante, però, è che a fronte a un errore locale Sol ha risposto ripetutamente con una correzione strutturale: ha riesaminato i processi che, nelle fasi precedenti, avevano generato l’errore, e ha introdotto delle misure per prevenire futuri errori simili. “Le prestazioni di Sol hanno spostato in avanti i confini del possibile nell'ambito dell'automazione delle indagini sulle minacce informatiche”, scrivono i ricercatori di SentinelOne. “Data la sua immediata disponibilità, siamo interessati a vedere come tali capacità consentiranno agli esperti del settore di far progredire lo stato dell'arte, analogamente a quanto avviene in discipline di ricerca come la matematica e la fisica”.
Da qui a fidarsi ciecamente del lavoro di una tecnologia come GPT-5.6 Sol, però, ce ne passa. Il recente caso di Hugging Face ha evidenziato come per l’intelligenza artificiale, machiavellianamente, il fine giustifichi sempre i mezzi: per ottenere un obiettivo, ogni strada è lecita, anche il furto di credenziali, anche l’abuso di privilegi. Come sottolineato da SentinelOne, in un’attività di reverse engineering, oggi come oggi, nemmeno i modelli AI più avanzati possono sostituire le persone. Nell’esperimento condotto, anche i modelli migliori hanno prodotto errori semantici, hanno accettato controlli di qualità carenti e dichiarato prematuramente di aver completato il lavoro. A detta di SentinelOne, si ottengono i massimi vantaggi usando agenti AI “investigatori” affiancati però da analisti umani che fungono da supervisori, definiscono gli obiettivi, individuano le lacune e mantengono l’ultima parola. Il classico human-in-the-loop, utilizzato forse un po' troppo spesso come carta jolly di fronte a rischi e problemi dell'intelligenza artificiale, ma ad oggi ancora la carta più efficace da giocare.