(Immagine generata con AI)
Non è un mistero: l’intelligenza artificiale gioca in due squadre opposte nella cybersicurezza, quella dei “buoni” e quella dei “cattivi”. Ma questo duplice ruolo è in continua evoluzione e viene investito, oggi, dalla tendenza che vede una sempre maggiore concentrazione del rischio intorno alle identità. Umane e non. L’allarme risuona dal nuovo “AI Security Report 2026” di Sophos, basato sulle analisi dei casi gestiti dal team di servizi gestiti (Managed Detection and Response), sulle ricerche di SophosLabs, sull'intelligence della Counter Threat Unit, sugli studi di Sophos AI e sulle osservazioni raccolte da endpoint e reti di oltre 625mila clienti.
Le analisi di Sophos confermano alcuni fatti noti: l’intelligenza artificiale sta velocizzando gli attacchi e viene utilizzata in un po’ in tutte le fasi e in numerose tecniche differenti. Il social engineering assistito dall'AI e i deepfake sono ormai diventati degli strumenti operativi per cybercriminali, permettendo di realizzare truffe sempre più efficaci, declinate in più lingue e diffuse su più larga scala, a costi sempre inferiori. L’AI è anche entrata ormai stabilmente nei marketplace underground, nei processi di reclutamento, nel prompt engineering, nelle tecniche di jailbreaking, nello sviluppo di malware e nei servizi criminali.
L’AI è però sempre più spesso anche un bersaglio dei cybercriminali, ovvero la sua adozione nelle aziende allarga la famigerata “superficie di attacco” potenziale. Come rimarcato da Sophos, agenti di coding, assistenti virtuali e modelli open-weight sono tecnologie che possono ottenere accesso privilegiato ai sistemi aziendali, e che se hackerate diventano uno strumento di spionaggio, furto dati e manomissione.
Anche le identità non umane, tra cui gli agenti AI, stanno diventando un bersaglio, mentre le aziende faticano a tenere il passo con un’adeguata governance di queste tecnologie. Le connessioni OAuth, le chiavi API, le credenziali dei servizi AI, gli strumenti di sviluppo e le infrastrutture AI esposte rappresentano altrettanti punti di accesso per chi attacca: in particolare, si osservano compromissioni degli strumenti per sviluppatori e malware progettati per sottrarre credenziali. Allo stesso tempo, stanno aumentando i rischi lungo la supply chain dell’intelligenza artificiale, con attacchi legati ai pesi dei modelli (model weights), alla provenienza dei dati di addestramento, ai server MCP e alle infrastrutture di inferenza.
"Gli attaccanti hanno ancora bisogno di ottenere un accesso iniziale, di muoversi lateralmente all'interno delle reti e di esfiltrare i dati attraverso canali osservabili. Ciò che è cambiato è il fattore tempo", ha commentato John Peterson, chief technology officer di Sophos. "Per la prima volta abbiamo osservato un utilizzo concreto dell'intelligenza artificiale come moltiplicatore operativo. Gli strumenti e le tecniche erano già noti, ma la velocità di sviluppo, test e iterazione è cambiata in modo significativo. È questa la minaccia AI a cui i team di sicurezza devono prepararsi: cicli più rapidi, finestre di risposta più brevi e una pressione crescente sui difensori affinché individuino e contengano le attività malevole prima che producano un impatto".
Agenti AI che velocizzano la preparazione dell'attacco
Nel report si racconta il caso di una campagna di attacco, identificata da Sophos come STAC6994, che rappresenta uno dei primi episodi documentati di sfruttamento degli agenti AI nelle operazioni di attacco.
Il gruppo criminale aveva avviato un’attività di sviluppo software all’interno della rete di un cliente e usava una dozzina di agenti AI per scrivere e testare attacchi contro gli agenti degli endpoint, tra cui Sophos, CrowdStrike e Microsoft Defender. Questa attività ha prodotto quasi 80 moduli e oltre 70 tecniche di elusione, riducendo a pochi giorni un lavoro che senza l’uso dell’AI avrebbe richiesto settimane: in sostanza, l’intelligenza artificiale è stata usata per velocizzare i tempi di preparazione dell’attacco.
Nel caso specifico, grazie alla propria attività di raccolta di intelligence Sophos è stata in grado di intercettare la campagna, per poi neutralizzare gli attacchi prima che venissero distribuiti su larga scala.
"Questo report dimostra chiaramente che la sicurezza dell'intelligenza artificiale non riguarda più soltanto il comportamento dei modelli o rischi futuri ipotetici", ha detto Peterson. "L'AI è già stata integrata nei flussi operativi della criminalità informatica, nelle campagne di social engineering, nei processi di sviluppo software e nei sistemi di gestione delle identità delle organizzazioni. La minaccia è concreta e attuale. Con l'evoluzione dei modelli di frontiera, i prossimi mesi saranno determinati dalla capacità delle organizzazioni di governare l'utilizzo dell'AI, proteggere identità e connessioni che la circondano e tenere il passo con avversari in grado di adottare rapidamente nuove capacità".
Tra i casi analizzati dal report figura una truffa finanziaria in tema intelligenza artificiale: la vittima, un utente del Regno Unito, è stata attirata su una falsa piattaforma di investimento basato su AI, dove ha perso centinaia di migliaia di sterline. La persona era stata convinta a mettere i propri soldi sulla piattaforma dopo mesi di lezioni dedicate all'AI e comunicazioni coordinate.