Amazon Web Service (Aws) ha annunciato le nuove istanze Gpu-equipped, chiamate EC2 P4d. Presentata un decennio dopo che l’azienda ha introdotto il suo primo set di Cluster Gpu Instances, questa nuova generazione è basata sui processori Intel Cascade Lake e su otto Gpu A100 Tensor Core di Nvidia. Queste istanze, promette Aws, offrono fino a 2,5 volte le prestazioni in deep learning della generazione precedente e la messa a punto di un modello comparabile dovrebbe essere di circa il 60% più economica.
Per ora, è disponibile solo un formato, l'istanza p4d.24xlarge, in gergo Aws, e le otto Gpu A100 sono collegate tramite l'interfaccia di comunicazione NVLink e offrono anche supporto per l'interfaccia GPUDirect, entrambe di Nvidia.
Grazie a 320 GB di memoria Gpu a banda larga e 400 Gbps di networking, questa è una macchina molto potente. Se poi si aggiungono i 96 core della Cpu, oltre a 1,1 TB di memoria di sistema e 8 terabyte di spazio di archiviazione Ssd, non sorprende che il prezzo on-demand sia di 32,77 dollari l'ora (il costo scende a meno di 20 dollari per ora nel caso di un anno di istanze riservate e 11,57 dollari se si arriva tre anni).