Broadcom vuole portare l’intelligenza artificiale vicino ai dati aziendali, anziché trasferire continuamente i dati verso i servizi AI nel cloud pubblico e per questo ha presentato durante l’evento VMware Explore 2026 un insieme di tecnologie che trasformano VMware Cloud Foundation in una piattaforma per costruire e gestire infrastrutture AI private.
Il progetto prende il nome di VMware Private AI Cloud e riunisce sotto la stessa architettura inferenza, applicazioni agentiche, container e macchine virtuali tradizionali per consentire alle aziende di usare l’AI nello stesso ambiente nel quale risiedono le loro applicazioni e informazioni sensibili, mantenendo il controllo su dati, modelli, GPU, sicurezza e costi.
Il cloud privato diventa AI native
Private AI Cloud non è un nuovo cloud separato da VMware Cloud Foundation, ma un modo per trasformare i workload AI in uno di quelli nativi VCF, evitando la creazione di un'altra infrastruttura dedicata che andrebbe poi gestita indipendentemente. Questo significa poter utilizzare lo stesso ambiente per macchine virtuali, Kubernetes, applicazioni tradizionali, inferenza e agenti AI. Un vantaggio indiscutibile di questo approccio è che così si resta indipendenti dall’hardware: VCF supporta CPU, GPU e acceleratori di diversi produttori e può essere usato su server praticamente di ogni marca. Ovviamente, il ritmo che gli aggiornamenti dovranno tenere è serrato, ma la società sta già lavorando, per esempio, con AMD per integrare le GPU Instinct e lo stack ROCm, mentre i sistemi AI ReadyNode comprendono soluzioni certificate di Cisco, Dell Technologies, Lenovo e Supermicro. La strategia è quindi quella di abbandonare le infrastrutture AI basate su di un solo acceleratore: VMware vuole diventare il livello software che astrae l'infrastruttura sottostante, lasciando alle aziende maggiore libertà nella scelta dell'hardware.
AI Factory, dal server al primo modello in poche ore e tokenomics "casalinga"
Come abbiamo già accennato, la componente operativa della nuova architettura è VMware AI Factory, definita da Broadcom come la base software-defined dell’AI Cloud privato che mira, principalmente, a semplificare tutto il lavoro necessario al primo avviamento: configurare server, rete e storage, installare driver e runtime, predisporre Kubernetes o macchine virtuali, distribuire i modelli e infine gestire aggiornamenti e ciclo di vita dell'intero stack dovrebbe essere, secondo Broadcom, un processo completamente automatizzazo, facendo crollare i tempi necessari per passare da un server bare metal al primo modello AI disponibile agli utenti da settimane a poche ore. Già da subito, l'automazione comprende provisioning dell'hardware, abilitazione dello stack software e gestione end-to-end del ciclo di vita, ma una partnership con MetalSoft dovrebbe spingere l'automazione fino al server fisico: l'obiettivo è consentire agli amministratori di effettuare provisioning e reinstallazione di macchine di produttori differenti direttamente dalla console VCF.
Gli annunci dededicano anche molta attenzione anche a una voce di costo piuttosto nuova per i CIO: i token. Nel cloud pubblico è relativamente semplice associare l'utilizzo di un modello alla relativa fattura. Quando l'AI viene eseguita sull'infrastruttura aziendale, il costo dei token non scompare, ma cambia forma: diventa consumo di GPU, memoria, energia, storage e capacità infrastrutturale. VCF introduce quindi strumenti di osservabilità che misurano throughput dei token, latenza, utilizzo della capacità di calcolo e memoria, permettendo di confrontare il costo effettivo dei diversi carichi e, tramite AI Gateway, aggiunge la possibilità di applicare limiti ai token e ai tassi di utilizzo, autorizzare le applicazioni e instradare le richieste verso modelli differenti.
Per le aziende che stanno iniziando a utilizzare decine di applicazioni e agenti AI, capire quale modello viene interrogato, da chi, quante risorse consuma e quanto costa ogni servizio potrebbe diventare importante quanto monitorare CPU e storage nelle infrastrutture tradizionali.
Da Gemma 4 a GLM-5.2: i modelli diventano un servizio interno e possibilmente sovrano
Broadcom ha anche ampliato la scelta dei modelli utilizzabili su VMware Cloud Foundation. VCF usa vLLM come runtime predefinito e permette di eseguire oltre 150 modelli open source. Durante l’evento, Broadcom ha annunciato anche la validazione di cinque famiglie di modelli: NVIDIA Nemotron 3, Google Gemma 4, NEC cotomi, Alibaba Qwen 3.7-Max e Z.ai GLM-5.2. La validazione serve soprattutto a trasformare i modelli in un servizio infrastrutturale in modo che il reparto IT possa installarli nel proprio cloud privato e offrirli agli utenti attraverso un modello as a Service, senza che ogni team debba occuparsi dell'infrastruttura sottostante. La varietà dei modelli disponibili apre la strada a carichi di lavoro molto diversi tra loro. Ci sono modelli multimodali, modelli specializzati nell'uso agentico, modelli ottimizzati per specifiche lingue e modelli destinati al coding e al reasoning. VCF è diventato una sorta di catalogo aziendale di intelligenze artificiali dal quale applicazioni e sviluppatori possono scegliere e usare il modello più adatto.
Il fatto che si possano eseguire in locale, poi, risponde alla crescente attenzione verso sovranità e controllo dei dati. Non è necessario trasferire documenti, prompt e informazioni aziendali verso un servizio esterno per utilizzare un modello avanzato: inferenza e dati possono rimanere all'interno dell'infrastruttura controllata dall'organizzazione. Un modo per rispondere, certo, alle necessità di privacy e resilienza, ma anche per tenere sotto stretto controllo i costi.