O Microsoft Azure recentemente anunciou o lançamento de uma novíssima máquina virtual (VM) equipada com a GPU topo de linha da NVIDIA, a H100. Essa nova VM, ND H100 v5, foi projetada para acelerar cargas de trabalho de IA generativas, como o modelo de linguagem AI ChatGPT.
De acordo com Scott Guthrie, vice-presidente de IA e nuvem da Microsoft, a empresa gastou centenas de milhões construindo um supercomputador para dar suporte a cargas de trabalho de treinamento em larga escala. A Microsoft trabalhou em estreita colaboração com a OpenAI para aprender o que eles precisavam na construção de seu ambiente de treinamento. Essa colaboração levou ao desenvolvimento de clusters de finalidade especial que poderiam suportar essas cargas de trabalho.
A VM ND H100 v5 é a mais recente inovação resultante dessa colaboração. Oferece tamanhos sob demanda de oito a milhares de GPUs NVIDIA H100 interconectadas pela rede NVIDIA Quantum-2 InfiniBand. Os clientes podem esperar melhorias significativas no desempenho do modelo de IA em relação à VM ND A100 v4 da geração anterior.
A VM ND H100 v5 apresenta oito GPUs NVIDIA H100 Tensor Core interconectadas via NVSwitch e NVLink 4.0 de última geração. Ele também oferece NVIDIA Quantum-2 CX7 InfiniBand de 400 Gb/s por GPU e rede de 3,2 Tb/s por VM para uma rede fat-tree sem bloqueio. Essa VM tem NVSwitch e NVLink 4.0 que fornecem largura de banda de bisseção de 3,6 TB/s em oito GPUs locais em cada VM. Além disso, ele possui um processador escalável Intel Xeon de 4ª geração e uma interconexão host-GPU PCIE Gen5 que oferece largura de banda de 64 GB/s por GPU. Ele também possui 16 canais de DIMM DDR5 de 4800 MHz.
Espera-se que esta nova VM forneça inovações de IA de ponta para empresas em todo o mundo. Ian Buck, vice-presidente de hiperescala e computação de alto desempenho da NVIDIA, disse que a VM ND H100 v5 impulsionaria uma nova era de aplicativos e serviços de IA generativa.
A VM ND H100 v5 está disponível em pré-lançamento a partir hoje e se tornará uma oferta padrão no portfólio do Azure. Isso permitirá que qualquer pessoa desbloqueie o potencial da IA em escala na nuvem. Com esta nova VM, a Microsoft demonstra mais uma vez seu compromisso com o avanço do campo da IA e torná-la acessível a todos.