Microsoft Azure recientemente anunció el lanzamiento de una nueva máquina virtual (VM) impulsada por la GPU de primera línea de NVIDIA, la H100. Esta nueva máquina virtual, ND H100 v5, está diseñada para acelerar las cargas de trabajo generativas de IA, como el modelo de lenguaje de IA ChatGPT.
Según Scott Guthrie, vicepresidente de IA y nube de Microsoft, la empresa ha invertido cientos de millones construyendo una supercomputadora para soportar cargas de trabajo de capacitación a gran escala. Microsoft trabajó en estrecha colaboración con OpenAI para aprender lo que necesitaban en la construcción de su entorno de formación. Esta colaboración condujo al desarrollo de clústeres de propósito especial que podrían admitir tales cargas de trabajo.
La máquina virtual ND H100 v5 es la última innovación que resulta de esta colaboración. Ofrece tamaños bajo demanda de ocho a miles de GPU NVIDIA H100 interconectadas por la red NVIDIA Quantum-2 InfiniBand. Los clientes pueden esperar mejoras significativas en el rendimiento del modelo de IA con respecto a la generación anterior de máquinas virtuales ND A100 v4.
La máquina virtual ND H100 v5 cuenta con ocho GPU NVIDIA H100 Tensor Core interconectadas a través de NVSwitch y NVLink 4.0 de última generación. También ofrece NVIDIA Quantum-2 CX7 InfiniBand de 400 Gb/s por GPU y red de 3,2 Tb/s por VM para una red fat-tree sin bloqueo. Esta VM tiene NVSwitch y NVLink 4.0 que ofrecen un ancho de banda de bisección de 3,6 TB/s en ocho GPU locales en cada VM. Además, tiene un procesador escalable Intel Xeon de cuarta generación y una interconexión de GPU-host PCIE Gen5 que ofrece un ancho de banda de 64 GB/s por GPU. También tiene 16 canales de DIMM DDR5 de 4800 MHz.
Se espera que esta nueva máquina virtual proporcione innovaciones de inteligencia artificial de vanguardia a las empresas de todo el mundo. Ian Buck, vicepresidente de computación de alto rendimiento y hiperescala de NVIDIA, dijo que la VM ND H100 v5 impulsaría una nueva era de aplicaciones y servicios de IA generativa.
La VM ND H100 v5 está disponible en versión preliminar a partir de hoy y se convertirá en una oferta estándar en la cartera de Azure. Permitirá que cualquiera desbloquee el potencial de la IA a escala en la nube. Con esta nueva máquina virtual, Microsoft demuestra una vez más su compromiso de hacer avanzar el campo de la IA y hacerlo accesible para todos.