Microsoft Azure a récemment a annoncé la sortie d’une toute nouvelle machine virtuelle (VM) alimentée par le GPU haut de gamme de NVIDIA, le H100. Cette nouvelle machine virtuelle, ND H100 v5, est conçue pour accélérer les charges de travail d’IA génératives, telles que le modèle de langage d’IA ChatGPT.
Selon Scott Guthrie, vice-président de l’IA et du Cloud chez Microsoft, l’entreprise a passé des centaines de des millions de construire un supercalculateur pour prendre en charge des charges de travail de formation à grande échelle. Microsoft a travaillé en étroite collaboration avec OpenAI pour savoir ce dont ils avaient besoin pour créer leur environnement de formation. Cette collaboration a conduit au développement de clusters à usage spécifique pouvant supporter de telles charges de travail.
La machine virtuelle ND H100 v5 est la dernière innovation issue de cette collaboration. Il propose des tailles à la demande allant de huit à des milliers de GPU NVIDIA H100 interconnectés par le réseau NVIDIA Quantum-2 InfiniBand. Les clients peuvent s’attendre à des améliorations significatives des performances du modèle d’IA par rapport à la génération précédente de VM ND A100 v4.
La machine virtuelle ND H100 v5 comprend huit GPU NVIDIA H100 Tensor Core interconnectés via NVSwitch et NVLink 4.0 de nouvelle génération. Il offre également 400 Go/s NVIDIA Quantum-2 CX7 InfiniBand par GPU et 3,2 To/s réseau par VM pour un réseau fat-tree non bloquant. Cette machine virtuelle est équipée de NVSwitch et de NVLink 4.0 qui fournissent une bande passante de bissection de 3,6 To/s sur huit GPU locaux dans chaque machine virtuelle. De plus, il dispose d’un processeur évolutif Intel Xeon de 4e génération et d’une interconnexion hôte-GPU PCIE Gen5 qui offre une bande passante de 64 Go/s par GPU. Il dispose également de 16 canaux de mémoire DIMM DDR5 à 4 800 MHz.
Cette nouvelle machine virtuelle devrait fournir des innovations de pointe en matière d’intelligence artificielle aux entreprises du monde entier. Ian Buck, vice-président du calcul hyperscale et haute performance chez NVIDIA, a déclaré que la machine virtuelle ND H100 v5 alimenterait une nouvelle ère d’applications et de services d’IA générative.
La machine virtuelle ND H100 v5 est disponible en avant-première à partir de aujourd’hui et deviendra une offre standard dans le portefeuille Azure. Cela permettra à quiconque de libérer le potentiel de l’IA à grande échelle dans le cloud. Avec cette nouvelle VM, Microsoft démontre une fois de plus son engagement à faire progresser le domaine de l’IA et à le rendre accessible à tous.