Google da tempo è impegnata nello sviluppo di chip per l’intelligenza artificiale, ottimizzati per eseguire modelli AI con un occhio alle prestazioni e l’altro all’efficienza, ma vuole fare di più. Secondo indiscrezioni del sito The Information, l’azienda di Mountain Views sarebbe al lavoro su Frozen v2, nome in codice di un nuovo chip per server che integra l’AI di Gemini direttamente nell’hardware, e che promette di migliorare l’efficienza dei calcoli di intelligenza artificiale.
Un circolo virtuoso, insomma, in cui l’AI stessa aiuta a migliorare il funzionamento dell’AI. Google non è nuova al mondo del silicio: con le proprie Tensor Processing Unit (Tpu) l'azienda ha sviluppato una tipologia circuito integrato specifica per l’accelerazione dei carichi di lavoro di machine learning.
Secondo i rumors, però, con Frozen v2 si potrà fare un salto di qualità su questo fronte, raggiungendo un’efficienza energetica per token da sei a dieci volte superiore a quella delle attuali Tpu di Google. Il tutto è reso possibile, almeno in teoria, dal fatto di eseguire alcune elaborazioni direttamente sul chip, evitando trasferimenti di dati tra unità di calcolo e memoria.
L’intento di Google, secondo la “persona informata sui fatti”, sarebbe quello di creare una nuova categoria di chip che potrà affiancarsi alle Tensor Processing Unit, senza sostituirle. Non è detto, comunque, che Frozen v2 si tramuti un domani in un prodotto vero e proprio, a uso interno o destinato alla vendita. Secondo i rumors, al momento gli ingegneri di Google starebbero ancora perfezionando il design del processore e per il debutto si dovrà aspettare almeno fino al 2028. Quel che è certo è nei prossimi anni si discuterà ancora molto di sostenibilità ambientale ed economica dell’AI: se anche la logica dei token dovesse lasciar spazio ad altri meccanismi di conteggio dei costi, l’efficienza energetica sarà comunque una direzione obbligata per un’intelligenza artificiale sempre più pervasiva. Inoltre è probabile che i grandi hyperscaler del cloud computing cercheranno di ridurre la dipendenza dalle Gpu di Nvidia, una dipendenza che ha un costo salato sia per i prezzi di questi componenti, sia per i ritardi di fornitura in una supply chain che non sta dietro alla domanda.