Il mercato della sicurezza per l’AI è in rapida crescita, perché ne abbiamo davvero bisogno: il rischio prolifera, tra modelli e agenti AI sempre più evoluti, codice generato in automatico (magari pensando alla velocità e ai costi, prima che alla qualità), ambienti di addestramento e runtime, senza contare le moltissime applicazioni che integrano l’intelligenza artificiale come potenziamento di capacità al proprio interno. Alle esigenze di sicurezza in senso stretto si sommano quelle di compliance, che se trascurate possono causare danni economici, di reputazione e legali. Intanto, i recenti casi degli hackeraggi realizzati dai modelli di OpenAI, Anthropic e Meta evidenziano quanto sia facile perdere il controllo sull’intelligenza artificiale anche per chi la sviluppa.
Come noto, oggi l’AI strumentalizzata dal cybercrimine per i propri scopi malevoli si contrappone all’intelligenza artificiale “buona”, alleata della difesa. In mezzo a queste dinamiche si è anche sviluppato un mercato della cybersicurezza per l’intelligenza artificiale, composto da quattro principali segmenti: sicurezza delle applicazioni AI, controllo dell'utilizzo dell'intelligenza artificiale, piattaforme di governance e gateway per l'AI.
Questo mercato oggi vale oltre 2,8 miliardi di dollari, in base alla stima di Gartner per il 2026, e salirà l’anno prossimo a 4,78 miliardi, con un incremento a valore del 68%. Si arriverà poi nel 2028 a un giro d’affari vicino prossimo ai 7,7 miliardi di dollari.
"Questa impennata è trainata dall'urgente necessità, per le aziende, di mettere in sicurezza i sistemi di AI affrontare le vulnerabilità emergenti e rafforzare le difese contro minacce informatiche sofisticate", ha commentato Shailendra Upadhyay, senior principal Analyst di Gartner. "A ciò si aggiungono le crescenti vulnerabilità e gli attacchi alla catena di approvvigionamento che coinvolgono software di terze parti e open source nei progetti di AI. Senza adeguati controlli di sicurezza e visibilità, le iniziative aziendali legate all'AI corrono un elevato rischio di fallimento".
Secondo gli analisti di Gartner, entro il 2029 oltre la metà degli attacchi informatici riusciti contro gli agenti AI sfrutterà vulnerabilità nel controllo degli accessi e tecniche di prompt injection, cioè di inserimento di istruzioni dannose negli input forniti al modello. Per questi e altri rischi, legati sia allo sviluppo dei modelli sia al runtime di chatbot e agenti AI, sempre più serviranno soluzioni specifiche, che dovranno però essere integrate nei software e sistemi di difesa già in uso nelle aziende.
“Gli strumenti di sicurezza tradizionali spesso trattano le applicazioni di AI come qualsiasi altro software e richiedono aggiornamenti significativi per affrontare le minacce specifiche di questa tecnologia", ha spiegato Upadhyay. "Soluzioni specializzate, come quelle per il controllo dell'utilizzo dell'AI e la sicurezza delle applicazioni, registreranno una rapida crescita in quanto strumenti in grado di rispondere a tali sfide".
L’evoluzione del mercato
Per Gartner la sicurezza delle applicazioni di AI si confermerà l’anno prossimo come prima categoria di spesa in questo mercato, con un giro d’affari stimato di quasi 851 milioni di dollari. Seguiranno la soluzioni per il controllo dell'utilizzo dell'AI, per una spesa pari a 749 milioni di dollari e una crescita anno su anno del 73%.
Come cambierà il mercato dal punto di vista dell’offerta? Per quanto riguarda le piattaforme di governance dell'IA e i gateway AI, spesso basati su sistemi aziendali preesistenti per la governance, la gestione dei dati e delle API, è probabile che i principali vendor manterranno l’attuale leadership aggiungendo funzionalità di intelligenza artificiale o integrando prodotti specializzati. Di contro, nei segmenti della sicurezza delle applicazioni AI e del controllo dell'utilizzo dell’AI emergeranno numerose startup.
"Con la crescita del mercato, possiamo attenderci un aumento del consolidamento e delle acquisizioni, con le grandi aziende di sicurezza informatica che acquisiscono queste startup per ampliare la propria offerta", ha osservato Upadhyay. "Nel complesso, la rapida espansione di questo settore sta alimentando un'intensa concorrenza tra i vendor, impegnati a contendersi quote di mercato".
Una stima difficile
Sul mercato della sicurezza per l’AI dobbiamo prendere per buono il parere di Gartner, in assenza di altre stime confrontabili. Le comparazioni tra i numeri delle diverse società di analisti lasciano un po’ il tempo che trovano, considerando le differenti tassonomie e i diversi criteri di inclusione ed esclusione dai conteggi. E in questo caso specifico un confronto è particolarmente ostico. Gartner scorpora le soluzioni per la messa in sicurezza dell’intelligenza artificiale da quelle che soltanto utilizzano questa tecnologia (tipicamente, per automatizzare il rilevamento, l’analisi, la risposta agli incidenti o la reportistica).
Esistono però sovrapposizioni tra le due aree, dato che la stessa AI viene usata per proteggere le soluzioni e i processi di intelligenza artificiale, oltre che le infrastrutture, i dati e le applicazioni di altro tipo. Un ulteriore fattore di confusione deriva dall’uso dell’espressione “AI security” riferita alla difesa dagli attacchi basati su intelligenza artificiale. Le tre aree, cioè la sicurezza per l’AI, quella basata su AI e la difesa dall’AI malevola, continueranno a svilupparsi e a sovrapporsi e forse l’unica previsione certa è che questi intrecci resteranno un tema caldo anche nei prossimi anni.