Il contesto, fatto di dati, di processi e di eventi, per l’intelligenza artificiale è fondamentale: è ciò che permette alle applicazioni di AI conversazionali di produrre esiti pertinenti e coerenti con le richieste ricevute nel prompt; oppure, nel caso degli agenti AI, di innescare azioni ben inserite nei processi aziendali, nel tempo e luogo in cui devono accadere. A detta di Confluent, società storicamente posizionata nel settore del data streaming, oggi in molte applicazioni di AI esiste però un “divario di contesto” che rende l’intelligenza artificiale meno efficace e che ostacola l’evoluzione dei progetti dalla fase pilota alla produzione.
“Abbiamo fondato Confluent per risolvere uno dei problemi più difficili nel mondo dei dati: permettere alle informazioni di fluire liberamente all’interno di un’azienda, così da poter agire in tempo reale”, ha dichiarato Jay Kreps, cofondatore e Ceo. “Questa stessa base ci consente oggi di colmare il divario di contesto nell’AI. I modelli off-the-shelf sono potenti, ma senza un flusso continuo di dati non possono prendere decisioni tempestive e realmente preziose per un’azienda. È qui che lo streaming dei dati diventa indispensabile”.
Nasce così Confluent Intelligence: una piattaforma, basata su Confluent Cloud, che racchiude servizi gestiti per l’elaborazione e la trasmissione di dati in real-time e storici. La soluzione trasmette ed elabora in modo continuo dati storici e in real-time, fornendo un contesto alle applicazioni di AI, e che diventano quindi più affidabili, attendibili, sicure e scalabili.
Dal punto di vista tecnico, si tratta di un insieme di servizi completamente gestiti per sistemi di AI basati su Apache Kafka e Apache Flink ma non solo, grazie al supporto per il Model Context Protocol. Alcune caratteristiche sono la governance integrata, le prestazioni a bassa latenza e la possibilità di riprodurre i dati (replayability).
Centrale è Power with Real-Time Context Engine, un servizio gestito che serve per trasmettere di dati di contesto verso qualsiasi agente o applicazione AI, sia quelli costruiti su Kafka e Flink sia quelli integrati esternamente tramite il Model Context Protocol. Il vantaggio pratico è quello di poter avere un unico punto di accesso a dati affidabili e contesto in tempo reale, senza dover gestire Kafka o l’infrastruttura di backend. Al momento Power with Real-Time Context Engine non è ancora in disponibilità generale, ma solo in early access.
Altro servizio è Build with Streaming Agents, che permette di creare, distribuire e orchestrare agenti di intelligenza artificiale basati su eventi e di farlo direttamente in Apache Flink. Al momento è disponibile in anteprima aperta. La nuova piattaforma di Confluent include anche funzionalità di analisi dei dati basata su machine learning, accessibili tramite Flink SQL: sono utili per attività come il rilevamento di anomalie, il forecasting, l’inferenza dei modelli e la visualizzazione in tempo reale, direttamente in Flink SQL. In questo caso il sevizio è già disponibile su Confluent Cloud. Accanto all’annuncio della nuova piattaforma, Confluent ha fatto sapere che adotterà Claude, la famiglia di Large Language Model sviluppati da Anthropic, come modello predefinito all’interno di Streaming Agents.