Le AI Factory sono state il motore della rivoluzione dell'intelligenza artificiale generativa. Senza i grandi cluster di GPU ospitati nei data center più avanzati sarebbe stato impossibile addestrare modelli sempre più sofisticati e portare l'AI al livello di maturità raggiunto oggi. Tuttavia, mentre il mercato si sposta dalla sperimentazione all'adozione su larga scala nelle imprese, emerge con forza una nuova domanda: dove viene realmente creato il valore dell'intelligenza artificiale?
Nicola Ferioli, Head of Engineering di Akamai Technologies, ci porta la sua visione sul tema, partendo dal fatto che la risposta non è più solo nel training dei modelli, ma soprattutto nella loro capacità di operare quotidianamente all'interno dei processi aziendali. È qui che entra in gioco l'inferenza, destinata a diventare la componente dominante dei workload AI e il vero banco di prova delle infrastrutture digitali.
Dal training all'inferenza: cambia l'economia dell'AI
Per comprendere l'evoluzione in corso è fondamentale distinguere due momenti del ciclo di vita di un modello di intelligenza artificiale. Il training rappresenta la fase di addestramento, nella quale enormi quantità di dati vengono elaborate per costruire il modello. Si tratta di un'attività estremamente intensiva dal punto di vista computazionale, ma relativamente episodica. L'inferenza, invece, è il momento in cui quel modello entra realmente in produzione. Ogni richiesta inviata a un chatbot, ogni raccomandazione personalizzata, ogni analisi effettuata in tempo reale e ogni risposta generata da un assistente virtuale passano attraverso questo processo. Con la diffusione dell'AI nelle aziende, l'inferenza è destinata a rappresentare la parte prevalente dei carichi di lavoro, sia in termini di volumi sia di costi operativi. È proprio in questa fase che si determina la qualità dell'esperienza utente e, di conseguenza, il ritorno dell'investimento.
Le AI Factory continueranno a rappresentare il cuore dell'addestramento dei modelli, ma quando questi vengono distribuiti emergono alcuni limiti strutturali tipici delle architetture fortemente centralizzate. Il primo riguarda la latenza. Applicazioni come l'analisi video in tempo reale, la personalizzazione dei servizi digitali o l'automazione industriale richiedono tempi di risposta nell'ordine dei millisecondi. Anche ritardi minimi possono compromettere l'efficacia dell'intero sistema. A questo si aggiungono i costi associati al trasferimento continuo dei dati verso grandi data center centralizzati e le problematiche legate alla sovranità del dato, sempre più rilevanti nei comparti regolamentati come finanza, sanità e pubblica amministrazione. Esiste infine una questione di scalabilità. Convogliare tutte le richieste di inferenza verso pochi hub globali significa aumentare il rischio di congestioni proprio nei momenti di maggiore utilizzo.
L'edge computing diventa il naturale complemento del cloud
Per rispondere a queste esigenze il settore sta progressivamente adottando architetture ibride nelle quali cloud ed edge collaborano anziché competere. L'obiettivo non consiste nel replicare ovunque la stessa capacità di calcolo presente nei grandi data center, ma nel distribuire in modo intelligente l'esecuzione delle inferenze, avvicinando l'elaborazione ai luoghi in cui si trovano dati e utenti. Questo permette di ridurre sensibilmente la latenza, migliorare l'esperienza degli utenti e ottimizzare l'utilizzo delle risorse infrastrutturali.
Secondo Akamai, piattaforme come Akamai Inference Cloud rappresentano proprio questa evoluzione, portando capacità di calcolo accelerato direttamente all'interno di una rete globale distribuita e rendendo l'inferenza un servizio capace di adattarsi dinamicamente alle condizioni della rete.
L'orchestrazione diventa il vero elemento strategico
Distribuire la potenza di calcolo, tuttavia, rappresenta soltanto una parte del problema. La vera sfida consiste infatti nell'orchestrazione intelligente dei workload, ovvero nella capacità di decidere automaticamente dove eseguire ogni singola richiesta di inferenza tenendo conto di molteplici fattori. Tra questi rientrano la latenza, il carico infrastrutturale, la posizione geografica dell'utente, la disponibilità delle risorse e gli eventuali requisiti normativi. Vista da questa angolazione, la rete non si limita più a trasportare informazioni, ma diventa una sorta di sistema operativo globale dell'intelligenza artificiale, capace di allocare dinamicamente ogni elaborazione nel punto più efficiente dell'infrastruttura.
I benefici di questo modello trovano applicazione in numerosi contesti. Nel settore media, l'inferenza all'edge permette di personalizzare contenuti live e trasformare flussi video in tempo reale senza sovraccaricare le infrastrutture centrali. Nel retail, la vicinanza tra capacità di calcolo e punto vendita abilita esperienze più rapide e personalizzate, migliorando sia il servizio ai clienti sia l'efficienza operativa. Anche nei servizi finanziari emergono vantaggi significativi. L'esecuzione dell'inferenza vicino alla sorgente dei dati consente infatti di individuare frodi e comportamenti anomali durante l'esecuzione stessa delle transazioni, riducendo drasticamente i tempi di risposta.
La distribuzione aumenta la resilienza
Oltre ai benefici in termini di performance e costi, c’è anche un altro aspetto quasi collaterale ma importantissimo da tener presente: le architetture distribuite migliorano la resilienza operativa. In presenza di guasti localizzati o indisponibilità di singoli nodi, i workload possono essere automaticamente riallocati verso altre risorse edge oppure verso il cloud centrale, garantendo continuità del servizio senza impatti significativi sugli utenti finali. È un principio già sperimentato con successo nelle Content Delivery Network e successivamente nel cloud computing, che oggi viene esteso anche all'intelligenza artificiale.
La crescita dell'AI nelle grandi aziede sta modificando profondamente il ruolo delle infrastrutture digitali. Le AI Factory continueranno a essere fondamentali per addestrare modelli sempre più evoluti, ma il vero valore competitivo dipenderà dalla capacità di renderli disponibili ovunque siano necessari, con tempi di risposta compatibili con le esigenze del business.