Microsoft Azure 最近 宣布發布由 NVIDIA 頂級 GPU H100 提供支持的全新虛擬機 (VM)。這款名為 ND H100 v5 的新 VM 旨在加速生成式 AI 工作負載，例如 AI 語言模型 ChatGPT。
據微軟負責 AI 和雲計算的副總裁 Scott Guthrie 稱，該公司已花費數百數百萬人建造超級計算機以支持大規模訓練工作量。 Microsoft 與 OpenAI 密切合作，了解他們在構建訓練環境時需要什麼。這種合作促成了可以支持此類工作負載的專用集群的開發。
ND H100 v5 VM 是此次合作的最新創新成果。它提供從八個到數千個 NVIDIA H100 GPU 的按需大小，這些 GPU 通過 NVIDIA Quantum-2 InfiniBand 網絡互連。與上一代 ND A100 v4 VM 相比，客戶可以期待 AI 模型性能的顯著改進。
ND H100 v5 VM 具有八個 NVIDIA H100 Tensor Core GPU，通過下一代 NVSwitch 和 NVLink 4.0 互連。它還為每個 GPU 提供 400Gb/s NVIDIA Quantum-2 CX7 InfiniBand 和每個 VM 3.2Tb/s 網絡，用於非阻塞胖樹網絡。此 VM 具有 NVSwitch 和 NVLink 4.0，可在每個 VM 中的八個本地 GPU 上提供 3.6TB/s 的對分帶寬。此外，它還配備第 4 代英特爾至強可擴展處理器和 PCIE Gen5 主機-GPU 互連，可為每個 GPU 提供 64GB/s 的帶寬。它還具有 16 個 4800MHz DDR5 DIMM 通道。
這款新 VM 有望為全球企業提供尖端的 AI 創新。 NVIDIA 超大規模和高性能計算副總裁 Ian Buck 表示，ND H100 v5 VM 將為生成式 AI 應用程序和服務的新時代提供動力。
ND H100 v5 VM 現已開始提供預覽版今天並將成為 Azure 產品組合中的標準產品。它將使任何人都能在雲中大規模釋放 AI 的潛力。通過這個新的 VM，Microsoft 再次展示了其推進 AI 領域並讓所有人都能使用它的承諾。