Microsoft Azure ha recentemente ha annunciato il rilascio di una nuovissima macchina virtuale (VM) alimentata dalla GPU top di gamma di NVIDIA, l’H100. Questa nuova VM, ND H100 v5, è progettata per accelerare i carichi di lavoro IA generativi, come il modello di linguaggio IA ChatGPT.
Secondo Scott Guthrie, Vice President of AI and Cloud di Microsoft, l’azienda ha speso centinaia di milioni costruendo un supercomputer per supportare carichi di lavoro di addestramento su larga scala. Microsoft ha lavorato a stretto contatto con OpenAI per apprendere ciò di cui avevano bisogno per costruire il proprio ambiente di formazione. Questa collaborazione ha portato allo sviluppo di cluster speciali in grado di supportare tali carichi di lavoro.
La VM ND H100 v5 è l’ultima innovazione risultante da questa collaborazione. Offre dimensioni on-demand da otto a migliaia di GPU NVIDIA H100 interconnesse dalla rete NVIDIA Quantum-2 InfiniBand. I clienti possono aspettarsi miglioramenti significativi nelle prestazioni del modello AI rispetto alla VM ND A100 v4 della generazione precedente.
La VM ND H100 v5 presenta otto GPU NVIDIA H100 Tensor Core interconnesse tramite NVSwitch di nuova generazione e NVLink 4.0. Offre inoltre NVIDIA Quantum-2 CX7 InfiniBand da 400 Gb/s per GPU e una rete da 3,2 Tb/s per VM per una rete fat-tree non bloccante. Questa macchina virtuale dispone di NVSwitch e NVLink 4.0 che offrono una larghezza di banda di bisezione di 3,6 TB/s su otto GPU locali in ogni macchina virtuale. Inoltre, dispone di un processore scalabile Intel Xeon di quarta generazione e di un’interconnessione host-GPU PCIE Gen5 che offre una larghezza di banda di 64 GB/s per GPU. Dispone inoltre di 16 canali di DIMM DDR5 a 4800 MHz.
Si prevede che questa nuova VM offrirà innovazioni AI all’avanguardia alle aziende di tutto il mondo. Ian Buck, Vice President of Hyperscale and High-Performance Computing di NVIDIA, ha affermato che la VM ND H100 v5 alimenterà una nuova era di applicazioni e servizi di intelligenza artificiale generativa.
La VM ND H100 v5 è disponibile in anteprima a partire da oggi e diventerà un’offerta standard nel portafoglio di Azure. Consentirà a chiunque di sbloccare il potenziale dell’IA su larga scala nel cloud. Con questa nuova VM, Microsoft dimostra ancora una volta il proprio impegno a far progredire il campo dell’intelligenza artificiale e a renderlo accessibile a tutti.