Portare l’AI in azienda non è facile come i vendor vogliono far sembrare. Servono le competenze iniziali per capire come usarla, poi bisogna trovare la giusta quadra con l’hardware scendendo a un compromesso tra necessità, disponibilità e budget; infine, bisogna testare il tutto in un ambiente che possa simulare bene una situazione reale. Secondo Ntt Data, è proprio la fase in cui si trasforma un prototipo promettente in un sistema sufficientemente sicuro, governabile e affidabile da poter essere inserito nei processi aziendali a rappresentare una delle sfide maggiori.
Per questo, all’interno del suo data center a monico (Munich 2) Ntt Global Data Centers ha lanciato la AI Factory Munich, una struttura concepita come un ambiente operativo dove le aziende possono testare le proprie applicazioni, dati e carichi di lavoro prima di impegnarsi in un’implementazione su scala più ampia. L’obiettivo è consentire ai clienti di valutare insieme le diverse componenti che determinano la riuscita di un progetto enterprise: prestazioni, infrastruttura, sicurezza, gestione dei dati, governance, residenza delle informazioni e sostenibilità operativa.
Dal proof of concept alla produzione
Molti progetti di intelligenza artificiale riescono a dimostrare la validità di un’idea, ma incontrano difficoltà quando devono affrontare dati reali, integrazioni con i sistemi aziendali, utenti simultanei, requisiti normativi e livelli di servizio. Un modello può produrre risultati convincenti durante una prova circoscritta, per esempio, senza garantire tempi di risposta adeguati quando cresce il numero delle richieste. Allo stesso modo, un’applicazione può funzionare correttamente finché utilizza una raccolta limitata di documenti, per poi mostrare problemi di accuratezza, costi o sicurezza quando viene collegata agli archivi aziendali.
La AI Factory Munich permette di anticipare questi problemi perché le imprese possono riprodurre condizioni vicine a quelle di produzione, valutando il comportamento delle applicazioni e dimensionando di conseguenza le risorse. È quindi possibile valutare quante GPU servano, come distribuire i carichi, quali prestazioni garantisca lo storage e dove si formino eventuali colli di bottiglia. La verifica riguarda anche aspetti meno visibili della potenza di calcolo, come la gestione delle identità, la separazione degli ambienti, la protezione dei dati, il monitoraggio dei modelli e la capacità di intervenire in caso di errore.
Uno stack costruito con Dell Technologies e NVIDIA
L’infrastruttura è una mix tra le competenze di Ntt Data con le tecnologie di Dell Technologies e di Nvidia. Quest'ultima fornisce la piattaforma di calcolo accelerato, che comprende Gpu basate sull’architettura Blackwell, networking Ethernet NvidiaSpectrum-X e il software NvidiaAI Enterprise che riunisce librerie, strumenti e componenti destinati allo sviluppo e all’esecuzione di applicazioni di intelligenza artificiale.
Dell Technologies, invece, mette a disposizione l’infrastruttura AI full-stack della Dell AI Factory with Nvidiacomprendente server, sistemi di archiviazione ottimizzati per i carichi di intelligenza artificiale e relativi servizi. NTT DATA fornisce le attività di consulenza, integrazione, sicurezza, gestione dei dati, operations e servizi gestiti. La combinazione permette di esaminare l’intero percorso applicativo, anziché limitarsi al benchmark di una singola GPU, permettendo la valutazione del sistema completo, dall’accesso ai dati alla generazione del risultato, includendo rete, storage, orchestrazione e controlli di sicurezza.
Sovranità e residenza dei dati
Uno degli elementi centrali dell’iniziativa è la possibilità di verificare come un’applicazione AI possa essere gestita all’interno dei vincoli di governance e delle aree giuridiche scelte dall’organizzazione. Il tema è d’attualità soprattutto per pubbliche amministrazioni, banche, strutture sanitarie e imprese che operano in settori regolamentati, dove non è abbastanza sapere che un modello funziona, ma bisogna stabilire dove vengano elaborati e conservati i dati, chi possa accedere all’infrastruttura, quali informazioni raggiungano fornitori e subfornitori e come siano registrate le operazioni compiute dal sistema.
Nel centro di Monaco, possono essere sottoposti a prova i controlli relativi a orchestrazione, sovranità e residenza dei dati. Le aziende possono quindi verificare la compatibilità dell’architettura con le proprie regole prima di procedere all’acquisto dell’infrastruttura o all’avvio della produzione. Questo approccio non rende automaticamente conforme un progetto: responsabilità, basi giuridiche, misure tecniche e modalità d’uso devono comunque essere valutate nel caso concreto. Riduce però il rischio di scoprire incompatibilità architetturali o operative quando l’investimento è già stato effettuato.
Chi può utilizzare l’AI Factory Munich
La struttura è rivolta alle aziende che hanno già individuato uno o più casi d’uso e devono capire come portarli in produzione, quale architettura adottare e quale investimento sia necessario. Può risultare particolarmente utile per aziende che vogliono mantenere un controllo diretto su modelli, applicazioni e dati, adottando infrastrutture private, dedicate o ibride. Il valore della struttura dipenderà anche dalla qualità della preparazione svolta prima del test. Per ottenere indicazioni utilizzabili servono dati rappresentativi, obiettivi misurabili e requisiti chiari in termini di accuratezza, tempi di risposta, disponibilità, sicurezza e costo per operazione.
L’apertura di Monaco dovrebbe aiutare le aziende a uscire da quella fase di prototipazione che sembra essere molto difficile da superare. Quando un progetto raggiunge la produzione diventano importanti fattori come l’integrazione, la qualità dei dati, il networking, la sicurezza, l’osservabilità, la gestione del ciclo di vita e le competenze operative. Una lunga lista di cose da far combaciare e lavorare insieme che è spesso causa del fallimento del processo di messa in produzione. La AI Factory Munich di Ntt Data, già accessibile, semplifica questa fase proponendo una infrastruttura con molti tasselli già al posto giusto, dando una grossa mano a chi sta affrontando il compito di portare l’AI davvero nei processi quotidiani dell’azienda.