Mettere in sicurezza l’intelligenza artificiale non significa soltanto sviluppare modelli sicuri e smettere, poi, di preoccuparsi di tutta una serie di rischi legati all’utilizzo delle applicazioni di AI. Fortinet lo sa bene e per questo ha realizzato una nuova acquisizione, a poco più di un anno di distanza dall’investimento fatto per comprare Suridata (uno specialista della sicurezza del Software as-a-Service). Si tratta di Virtue AI, società di San Francisco proprietaria di oltre un centinaio di capacità e algoritmi di red teaming, oltre che autrice di MMLU (Massive Multitask Language Understanding), uno tra i principali benchmark per la valutazione della sicurezza dei grandi modelli linguistici.
Fortinet non ha svelato i termini finanziari dell’operazione, spiegando tuttavia che l’importo corrisposto non ha un impatto rilevante sul proprio business. Rilevante è, però, la tecnologia di Virtue AI, che si affiancherà alle capacità già presenti nella soluzione FortiAIGate. Quest’ultima è un’offerta nata per proteggere gli LLM da diversi pericoli, tra cui gli attacchi di prompt injection, il poisoning (avvelenamento) dei modelli e le fughe di dati, oltre che dal rischio di un eccessivo consumo di token.
Con l’acquisizione, Virtue AI porterà in dote a Fortinet nuove capacità di protezione del runtime di modelli e agenti AI. In particolare, permetterà di testare la sicurezza degli agenti AI con attività di red teaming automatizzato, eseguito su centinaia di vettori di attacco e più di mille categorie di rischio, in oltre 50 ambienti sandbox.
C’è anche la possibilità di simulare attacchi di prompt injection e minacce basate su Model Context Protocol (MCP), il principale protocollo utilizzato per connettere gli agenti AI ad applicazioni esterne. Non mancano funzioni di visibilità, governance, protezione e monitoraggio degli agenti AI in esecuzione negli ambienti aziendali, così come di rilevamento e blocco della shadow AI.
Non è tutto: la tecnologia di Virtue AI effettua anche una validazione continua dell’intelligenza artificiale in uso, rinnovando i controlli dopo ogni aggiornamento dei modelli o delle policy. Inoltre è possibile generare documentazione già pronta per gli audit, utile per revisioni di sicurezza e conformità. Ultimo punto, è possibile inserire dei guardrail all’interno dei modelli, applicando policy personalizzabili su testi, immagini, video, audio e codice generato dall’AI, per impedire che contenuti dannosi, dati sensibili, tentativi di jailbreak e codici vulnerabili raggiungano gli utenti o i sistemi a valle.
“L’intelligenza artificiale sta cambiando radicalmente l’informatica aziendale, e la cybersecurity deve evolvere altrettanto rapidamente”, ha commentato il fondatore e Ceo di Fortinet, Ken Xie. “La tecnologia di Virtue AI farà progredire la nostra visione di sicurezza continua dell’AI, aiutando i clienti a gestire e proteggere i sistemi di intelligenza artificiale lungo l’intero ciclo di vita, consentendo loro di utilizzarli con fiducia su scala aziendale”.