Un rendering di Colosseum (Immagine: Vertiv)
Si chiama Colosseum il nuovo supercomputer italiano di iGenius, ed è un caso particolare di High Performance Computing: un sistema progettato per supportare una intelligenza artificiale “sovrana”. Il concetto di AI Sovereign è centrale nel progetto: in sostanza, iGenius metterà a disposizione non solo un’enorme capacità di calcolo, pari a 115 exaflop, a beneficio di attività di intelligenza artificiale, ma garantirà anche la residenza dei dati in Italia (in una località del Sud Italia, non precisata). Garantirà quindi il trattamento dei dati stessi in base alla giurisdizione del nostro Paese, strizzando l'occhio a tutte quelle organizzazioni, private e pubbliche, che sono soggette a particolari obblighi di compliance o requisiti di sicurezza. A detta del Ceo di iGenius, Uljan Sharka, “Colosseum è una delle piattaforme per settori regolamentati più avanzate al mondo in grado di stabilire nuovi standard di innovazione e velocità nell’intelligenza artificiale”.
Il supercervello farà da base alla collaborazione tra iGenius e Nvidia: insieme, le due aziende svilupperanno su questi sistemi nuovi modelli di AI destinati a settori che richiedono massimi livelli di sicurezza, affidabilità e precisione dei dati, come i servizi finanziari, la sanità e la pubblica amministrazione. I modelli di AI di iGenius saranno sviluppati utilizzando la piattaforma software AI Enterprise, l’architettura Nemotron e il framework NeMo di Nvidia, e inoltre saranno venduti come microservizi Nvidia Nim, con diverse opzioni di implementazione (gestione autonoma da parte del cliente, cloud e on-premise).
Vertiv 360AI
L’annuncio di Colosseum risale allo scorso dicembre, ma ora Vertiv ha diffuso qualche dettaglio in più: per l’alimentazione e il raffreddamento dei data center è stata scelta la piattaforma di infrastruttura Vertiv 360AI, una novità del 2024. Si tratta di una soluzione modulare e scalabile, progettata per l’architettura exascale Nvidia GB200 NVL72 e sviluppata in collaborazione con la stessa Nvidia. La soluzione include sistemi di raffreddamento ad acqua diretto (direct liquid cooling), Ups, apparati per la distribuzione dell’energia, sensori per il monitoraggio ambientale, rack enclosure e altri elementi.
Per il monitoraggio in tempo reale, il controllo, gli analytics di performance ed efficienza e per la generale orchestrazione di Colosseum saranno utilizzati i software Nvidia Mission Control e Vertiv Unify. Attraverso la piattaforma per digital twin Nvidia Omniverse, invece, è stato possibile simulare e convalidare l’intero stack delle infrastrutture: è stato realizzato un modello predittivo del carico termico, del flusso elettrico e del layout del sito, valutando anche i sistemi di liquid cooling e di alimentazione.
“L’unità di calcolo non è più il singolo chip, è il sistema, l’AI Factory”, ha commentato Karsten Winther, presidente Emea di Vertiv. “Grazie alle collaborazioni con Nvidia e iGenius, azienda visionaria nell’AI, confermiamo l’efficienza e la maturità a livello di sistema nell’offrire un data center come unità di calcolo, favorendo la rapida adozione di un’infrastruttura di alimentazione e raffreddamento nativa per l’AI”.