Nivida e Dell fanno un altro passo in avanti nelle infrastrutture IT per l’intelligenza artificiale e il supercalcolo. Il nuovo Dell PowerEdge XE8812 è il primo server basato su Vera Rubin NVL4, piattaforma hardware-software di Nvidia destinata ai workload più impegnativi, tra cui il calcolo scientifico e ingegneristico, l’AI generative e agentica, le simulazioni, gli analytics in tempo reale.
La nuova piattaforma combina le Gpu Rubin, le Cpu Vera e le data processing unit (Dpu) BlueField-4 di Nvidia, con interconnessione ad alta velocità tramite NVLink-C2C e adattatori ConnectX-9 SuperNIC, e con sistema di raffreddamento a liquido direct-to-chip.
Il PowerEdge XE8812 di Dell è altamente scalabile, potendo contenere fino a 144 Gpu per rack all'interno dell’architettura Dell PowerRack 9100. Nel presentare questo prodotto, l’azienda di Austin ha sottolineato il momento storico che stiamo attraversando: la domanda di infrastrutture di calcolo per l’AI e per l’High Performance Computing è in crescita, mentre gli attuali data center faticano a garantire le necessarie prestazioni e scalabilità.
PowerEdge XE8812 secondo Dell rappresenta “un salto generazionale in termini di densità di calcolo e capacità di memoria”, grazie al passaggio dalla precedente piattaforma di Nvidia per l’intelligenza artificiale, GB200 NVL4, alla nuova Vera Rubin NVL4. Ne risultano, nel confronto con la precedente piattaforma, una memoria host ampliata, un numero maggiore di core (da 144 a 176), una memoria Gpu per socket incrementata del 50% e una maggiore potenza di calcolo.
Utilizzando le librerie Nvidia Cuda-X, il server può eseguire modelli AI e simulazioni su larga scala con elaborazioni in-memory. Dunque si possono evitare sia lo staging (streaming dei dati dalla memoria host o dallo storage) sia lo swapping (rimozione e ricaricamento dei dati), operazioni che introducono una latenza compresa tra microsecondi e millisecondi e riducono drasticamente la larghezza di banda effettiva, rallentando i calcoli di AI e Hpc.
Grazie al sistema di raffreddamento a liquido diretto, il sistema è privo di ventole. Basato sullo standard aperto ORv3, il server propone un’architettura aperta e un sistema di implementazione modulare. Il software di gestione Dell Remote Access Controller (iDRAC) consente ai team IT di implementare, aggiornare e monitorare i server a distanza, mentre Dell Integrated Rack Controller e a OpenManage Enterprise permettono di rilevare e risolvere problemi tramite dati di telemetria in tempo reale e rilevamento automatico delle perdite.
(Immagine: Nvidia)
Si tratta, chiaramente, di un sistema di fascia alta, che va a comporre le cosiddette “fabbriche dell’intelligenza artificiale” e che infatti rientra nella linea d’offerta Dell AI Factory. Sarà basato su PowerEdge XE8812 con Nvidia Vera Rubin NVL4 il futuro supercomputer di punta del Dipartimento dell’Energia degli Stati Uniti, Doudna.
In Italia, invece, server Dell PowerEdge XE8712 basati su Nvidia GB200 NVL comporranno il nuovo supercomputer del tecnopolo Dama di Bologna, un progetto cofinanziato dal progetto EuroHPC JU, dal Ministero dell’Università e della Ricerca italiano e dall’Agenzia nazionale italiana per la sicurezza informatica. La realizzazione è affidata a Dell e a E4 Computer Engineering, mentre Cineca è coinvolto in qualità di ente ospitante.
“Le istituzioni che conducono le ricerche più importanti al mondo, come la decodifica del genoma umano, la modellizzazione dei sistemi energetici del futuro e la creazione dell'infrastruttura di intelligenza artificiale sovrana da cui dipendono le nazioni, meritano un'infrastruttura all'altezza dell'ambizione del loro lavoro”, ha dichiarato Arun Narayanan, senior vice president, Compute and Networking di Dell Technologies. “PowerEdge XE8812 riflette l'impegno di Dell nel superare i limiti del possibile, fornendo a queste organizzazioni la densità, la memoria e l'architettura aperta di cui hanno bisogno per affrontare workload che un tempo sembravano impossibili”.
“La convergenza tra intelligenza artificiale e Hpc sta ridefinendo le aspettative delle organizzazioni nei confronti della propria infrastruttura”, ha detto Chris Marriot, vice president, Enterprise Platforms di Nvidia. “Dell e Nvidia stanno alzando insieme l'asticella, combinando l'architettura Nvidia Vera Rubin NVL4 e le librerie Cuda-X forniscono performance, efficienza e apertura necessari per i workload di intelligenza artificiale e calcolo scientifico più impegnativi al mondo”.