Microsoft Azure hat kürzlich kündigte die Veröffentlichung einer brandneuen virtuellen Maschine (VM) an, die von NVIDIAs erstklassiger GPU, der H100, angetrieben wird. Diese neue VM, ND H100 v5, wurde entwickelt, um generative KI-Workloads wie das KI-Sprachmodell ChatGPT zu beschleunigen.
Laut Scott Guthrie, Microsofts Vizepräsident für KI und Cloud, hat das Unternehmen Hunderte von ausgegeben Millionen bauen einen Supercomputer, um umfangreiche Trainingsarbeitslasten zu unterstützen. Microsoft hat eng mit OpenAI zusammengearbeitet, um zu erfahren, was sie für den Aufbau ihrer Schulungsumgebung benötigen. Diese Zusammenarbeit führte zur Entwicklung von speziellen Clustern, die solche Workloads unterstützen könnten.
Die ND H100 v5 VM ist die neueste Innovation, die aus dieser Zusammenarbeit hervorgegangen ist. Es bietet On-Demand-Größen von acht bis zu Tausenden von NVIDIA H100-GPUs, die über NVIDIA Quantum-2 InfiniBand-Netzwerke miteinander verbunden sind. Kunden können deutliche Verbesserungen der Leistung des KI-Modells gegenüber der vorherigen Generation der VM ND A100 v4 erwarten.
Die ND H100 v5 VM verfügt über acht NVIDIA H100 Tensor Core GPUs, die über NVSwitch und NVLink 4.0 der nächsten Generation miteinander verbunden sind. Es bietet außerdem 400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand pro GPU und 3,2 Tb/s Netzwerk pro VM für ein nicht blockierendes Fat-Tree-Netzwerk. Diese VM verfügt über NVSwitch und NVLink 4.0, die eine Halbierungsbandbreite von 3,6 TB/s über acht lokale GPUs in jeder VM bereitstellen. Darüber hinaus verfügt es über einen skalierbaren Intel Xeon-Prozessor der 4. Generation und eine PCIE Gen5-Host-GPU-Verbindung, die eine Bandbreite von 64 GB/s pro GPU liefert. Es verfügt außerdem über 16 Kanäle mit 4800-MHz-DDR5-DIMM.
Diese neue VM soll Unternehmen weltweit hochmoderne KI-Innovationen liefern. Ian Buck, Vice President of Hyperscale and High-Performance Computing bei NVIDIA, sagte, dass die VM ND H100 v5 eine neue Ära generativer KI-Anwendungen und-Dienste anstoßen wird.
Die VM ND H100 v5 ist ab der Vorschau verfügbar heute und wird zu einem Standardangebot im Azure-Portfolio. Es wird es jedem ermöglichen, das Potenzial von KI im großen Maßstab in der Cloud zu erschließen. Mit dieser neuen VM demonstriert Microsoft erneut sein Engagement, den Bereich der KI voranzutreiben und für jedermann zugänglich zu machen.