L’intelligenza artificiale è un ottimo alleato della cybersicurezza ed è anche, oggi come oggi, forse il suo peggior nemico. Il duplice ruolo dell’AI nella sicurezza informatica è ben noto, ma continua ad arricchirsi di nuove capacità (nel bene e nel male) e sfaccettature, come evidenziato dalle statistiche e dalle analisi di Kaspersky. Oltre a essere un bersaglio di attacchi, l’intelligenza artificiale viene sfruttata per scopi malevoli in tutte le modalità possibile: come strumento di offesa vero e proprio, ma anche come catalizzatore e amplificatore degli attacchi e come “specchietto per le allodole”.
Una tecnica di attacco emergente prevede di nascondere strumenti dannosi all’interno di soluzioni di AI, plugin e servizi apparentemente legittimi. In alcuni casi lo strumento serve a indurre l’utente a fornire volontariamente dati sensibili, in altri casi può installare dei malware. La casistica è articolata, e attraverso l'analisi di Kaspersky possiamo farci un'idea dei rischi, oggi emergenti, che un domani potrebbero prendere piede su larga scala. O meglio dei rischi che, affrontati già oggi con la giusta consapevolezza, potranno essere arginati.
Le contraffazioni che sfruttano la fiducia
Sono oltre 92mila gli attacchi malware nascosti dietro falsi sistemi di AI rilevati da Kaspersky in soli quattro mesi, dall’inizio dell’anno ai primi giorni di maggio. Si tratta di malware camuffati da applicazioni di intelligenza artificiale ben conosciute, e in particolare i criminali hanno contraffatto ChatGpt (nel 49% dei casi), Claude (18%) e Gemini (18%) per indurre le vittime a scaricare file dannosi.
E non è tutto: dall’inizio dell’anno, i ricercatori Kaspersky hanno individuato oltre 15mila campioni di malware mascherati da software di AI autonoma, tra cui anche versioni contraffatte di strumenti emergenti come OpenClaw. Tra i rilevamenti figuravano trojan bancari, spyware, programmi per il furto di credenziali bancarie, exploit e downloader di malware in grado di distribuire ulteriori payload dannosi.
In passato il Global Research and Analysis Team (GReAT) di Kaspersky aveva già individuato programmi di furto dati nascosti dietro Claude Code, OpenClaw e altri strumenti basati sull’AI agentica. In questo mese di maggio, poi, è stata scoperta una nuova campagna collegata Silver Fox, un gruppo Apt di origine cinese. I criminali hanno proposto a utenti che sul Web cercavano strumenti di intelligenza artificiale delle applicazioni malevole spacciate per Claude AI, nelle versioni per Windows, macOS e Linux. Una volta avviati, i programmi di installazione inserivano un malware per l’accesso remoto ai dati e ai dispositivi compromessi.
DALL’AVVELENAMENTO DEI DATI AGLI ATTACCHI DI SUPPLY CHAIN
I sistemi di intelligenza artificiale presentano dei rischi intrinseci, tra i quali Kaspersky cita la fuga di dati, la manipolazione dei dataset, gli attacchi di data poisoning, prompt injection e le allucinazioni. Ci sono, poi, gli attacchi che si propagano “a catena”: a detta di Kaspersky, la compromissione della supply chain sta emergendo come uno dei rischi più critici legati all’adozione dell’AI. L’intelligenza artificiale opera, infatti, attraverso ecosistemi interconnessi, in un singolo componente compromesso può esporre intere reti e bloccare l’operatività più aziende.
Un caso osservato di recente è stata la violazione di LiteLLM, una libreria Python ampiamente utilizzata per accedere a modelli di intelligenza artificiale, che conta circa 97 milioni di download mensili. Il codice dannoso integrato nello strumento era in grado di sottrarre credenziali di database, file di wallet di criptovalute e altre informazioni sensibili.
L’AI gioca sul piano psicologico
A tutto ciò si sommano le tecniche di attacco giocate sul piano psicologico. Quattro, secondo Kaspersky, sono i rischi oggi emergenti e destinati a crescere nei prossimi anni. Numero uno, il social engineering diventerà sempre più complesso e ingannevole, e già in anni recenti abbiamo visto l'uso dei Large Language Model per confezionare siti Web truffaldini e messaggi di phishing più convincenti. Attraverso i sistemi di AI cognitiva, alle piattaforme social e a grandi set di dati disponibili sarà possibile elaborare truffe altamente mirate, basate su analisi comportamentali e profilazioni psicologiche degli utenti. Il phishing potrebbe diventare più dinamico, con contenuti generati sul momento, sensibili al contesto e creati per sfruttare l’emotività. Come sottolineato da Kaspersky, il phishing non va sottovalutato perché può rappresentare il punto di accesso iniziale per attacchi Apt e altre forme sofisticate di crimeware dirette su aziende ed enti governativi.
Un secondo rischio emergente si lega alla manipolazione cognitiva resa possibile dall’AI. Hacktivisti e gruppi Apt potrebbero sfruttare i bias cognitivi veicolati dall’AI oppure tecniche di micro-targeting e di psicologia comportamentale per influenzare le opinioni e azioni degli utenti, per esempio in campagne politiche e operazioni di disinformazione. Con l'evoluzione dell’AI, sarà sempre più facile plasmare i comportamenti di interi gruppi o porzioni della società: si creeranno, secondo Kaspersky, “rischi sistemici non solo per l'autonomia individuale, ma anche per la fiducia dei cittadini”.
La profilazione basata sull'AI è il terzo fattore di rischio destinato a imporsi. Aggregando dati provenienti dai social media, dalla navigazione Web e da altre fonti, l’intelligenza artificiale può ricostruire in breve tempo e in modo automatico il profilo di identità di un utente e anche il suo profilo psicologico. Informazioni che un tempo erano frammentarie possono ora essere correlate automaticamente, e questo amplifica il rischio di doxxing e molestie digitali, oltre che l’esposizione di dati sensibili. Inoltre la profilazione basata sull'AI consente di adattare gli attacchi alle caratteristiche del target (incluse le vulnerabilità personali) e potenzialmente espone le persone al rischio di essere giudicate o prese di mira sulla base di comportamenti dedotti piuttosto che di azioni concrete. La minaccia, sottolinea Kaspersky, si sposta dalla perdita di privacy alla perdita di controllo sulla propria identità nella sfera digitale.
Il quarto rischio è legato alla convergenza tra l’Internet of Things e le Brain-Computer Interface, cioè le interfacce cervello-computer oggi già usate, in via sperimentale, per consentire ai pazienti non verbali di comunicare attraverso l'interpretazione dei segnali neurali. Collegandosi a dispositivi esterni, per esempio dispositivi per smart home, tecnologie assistive e apparecchiature mediche, queste interfacce stanno cominciando a convergere con l'IoT, e ciò rappresenta sicuramente un progresso nell’assistenza sanitaria e nell’accessibilità digitale. Ma è anche un rischio, perché la compromissione di un dispositivo IoT potrebbe consentire azioni non autorizzate attraverso l'interfaccia neurale, per esempio l'intercettazione dei segnali, la manipolazione delle risposte dei device o lo sfruttamento del legame tra intenzione ed esecuzione.
“Sebbene sia ancora in una fase iniziale e lontana da una diffusione di massa, l’AI cognitiva si sta sviluppando rapidamente”, ha detto Noushin Shabab, lead security researcher del Global Research and Analysis Team di Kaspersky. “Si presume che nei prossimi decenni i modelli avanzati di interazione tra uomo e AI saranno molto più diffusi e questo comporterà un aumento dei rischi associati e, quando ciò accadrà, dovremo essere pronti”.
“Il vero rischio dell’AI cognitiva è che modella le nostre menti, in modo silenzioso e diffuso”, ha commentato Teresa Potenza, giornalista e formatrice in materia di AI responsabile. “Abbiamo imparato che i sistemi ottimizzati per il coinvolgimento minano il giudizio. Ecco perché la regolamentazione è ora una difesa dell’autonomia umana, ma non può stare al passo con l’IA cognitiva se si limita a considerare ciò che questi sistemi fanno oggi. Abbiamo bisogno di un principio applicabile: la tecnologia deve servire le persone, non il contrario. L’autonomia non è solo una questione di privacy, è una questione di democrazia”.
UNA BIOMETRIA RESILIENTE
Durante la conferenza di Roma, una demo inscenata ha mostrato come i sistemi di riconoscimento facciale siano in grado di identificare le persone anche dopo pesanti modifiche apportate dall’AI sull’immagine. Nell’esperimento, fotografie di volti sono state alterate con filtri di invecchiamento e ringiovanimento: in molti casi, il risultato è stato un ritratto diversissimo dall’originale, all’occhio umano, ma nonostante le marcate variazioni visive il sistema di riconoscimento facciale ha correttamente abbinato la foto alla persona raffigurata in dieci casi di test indipendenti.
Il test evidenzia che i sistemi di riconoscimento faccile più avanzati si basano su caratteristiche geometriche e strutturali profonde del volto, cioè su marcatori biometrici persistenti, che non vengono cancellati da filtri e manipolazioni dell’AI. Questo da un lato dimostra la resilienza dei sistemi di autenticazione facciale, e dunque la loro capacità di sfuggire a possibili manipolazioni in attacchi che sfruttano la biometria; dall’altro lato, emergono interrogativi importanti sui potenziali abusi della GenAI per la falsificazione dell’identità, la creazione di identità sintetiche e l’elusione dei processi di verifica umana. Chi sviluppa sistemi di identità digitale dovrà porre sempre maggiore attenzione a questi aspetti.
“Sebbene l’esperimento non costituisca uno studio su larga scala, rappresenta una prova di fattibilità di un potenziale attacco basato sull’intelligenza artificiale che il settore dovrebbe considerare”, ha affermato Maher Yamout, lead security research del GReAT di Kaspersky. “Evidenzia inoltre un’implicazione pratica fondamentale: le trasformazioni facciali generate dall’AI possono preservare l’identità biometrica anche quando la percezione umana interpreta le immagini come individui completamente diversi. Questo apre nuove sfide per la fiducia digitale, la verifica dell’identità e la prevenzione delle frodi, in un’era di media sintetici in rapida evoluzione”.
GIOIE E DOLORI DELL’AUTOMAZIONE
Naturalmente, in quanto vendor di sicurezza informatica Kaspersky evidenzia anche il ruolo benefico dell’AI. Secondo una sua ricerca, il 99% delle aziende prevede di integrare l’AI nelle proprie attività di cybersicurezza e il 57% prevede un miglioramento nelle capacità di rilevamento delle minacce dovuto proprio all’intelligenza artificiale.
Nei Security Operations Center, gli assistenti basati su AI supportano i il personale nell’analisi degli incidenti, elaborando e contestualizzando grandi volumi di dati, generando riepiloghi e report, traducendo richieste in linguaggio naturale in query strutturate. Nei servizi di Managed Detection and Response di Kaspersky attualmente circa il 25% degli eventi di sicurezza viene elaborato in modo automatizzato grazie all’AI, mentre gli analisti umani continuano a verificare i casi per garantire qualità e ridurre i falsi positivi. Kaspersky ha anche recentemente introdotto nel proprio Siem (Security Information and Event Management) funzionalità basate su AI per il rilevamento di segnali di dirottamento DLL (Dynamic Link Library) e possibili compromissioni degli account.
L’automazione, però, può anche amplificare i problemi di sicurezza, per esempio la rapida propagazione di eventuali errori dei modelli AI, o decisioni e azioni prese senza adeguati controlli. Eccessiva dipendenza dalla tecnologia, uso improprio dei sistemi e carenza di supervisione operativa sono ulteriori rischi legati al famigerato “fattore umano”, che Kaspersky consiglia di non marginalizzare o sottovalutare.
“L’introduzione di agenti di intelligenza artificiale negli ambienti aziendali cambia la natura stessa della fiducia”, ha detto Dmitry Galov, direttore del GReAT di Kaspersky, Unità Russia e Cis. “Ogni azione automatizzata diventa parte di una catena più ampia di sistemi e scambi di dati: la sicurezza non riguarda più solo la protezione degli endpoint, ma anche il controllo di come informazioni, autorizzazioni e decisioni si propagano in processi interconnessi basati sull’IA”.
Come si risponde a tutto ciò? Considerando l’evoluzione delle minacce basate sull’AI, le sfide legate alla qualità dei dati e la diffusa carenza di personale qualificato in sicurezza informatica, è fondamentale adottare l’AI secondo una “strategia strutturata” e con un “approccio sistemico e ben ponderato”. Cinque le principali raccomandazioni di Kaspersky:
- standardizzare interfacce, formati di dati e protocolli di comunicazione per garantire controllo e sicurezza coerenti tra i sistemi;
- adottare il principio di minimo scambio necessario di dati, assicurando che ogni componente riceva solo le informazioni indispensabili;
- mettere in campo una “fiducia gestita”, con chiara identificazione di utenti, agenti e servizi IA e relative autorizzazioni;
- garantire la supervisione umana, con possibilità di intervento nei processi critici;
- procedere con implementazioni graduali, includendo scenari di rollback predefiniti per ridurre i rischi operativi.