Microsoft Azure เพิ่ง ประกาศ การเปิดตัว Virtual Machine (VM) ใหม่ล่าสุดที่ขับเคลื่อนโดย H100 GPU รุ่นท็อปของ NVIDIA VM, ND H100 v5 ใหม่นี้ได้รับการออกแบบมาเพื่อเร่งปริมาณงาน AI เชิงกำเนิด เช่น โมเดลภาษา AI ChatGPT
จากข้อมูลของ Scott Guthrie รองประธานฝ่าย AI และ Cloud ของ Microsoft บริษัทได้ใช้จ่ายหลายร้อย หลายล้านคนสร้างซูเปอร์คอมพิวเตอร์เพื่อรองรับเวิร์กโหลดการฝึกอบรมขนาดใหญ่ Microsoft ทำงานอย่างใกล้ชิดกับ OpenAI เพื่อเรียนรู้สิ่งที่พวกเขาต้องการในการสร้างสภาพแวดล้อมการฝึกอบรม ความร่วมมือนี้นำไปสู่การพัฒนาคลัสเตอร์สำหรับวัตถุประสงค์พิเศษที่สามารถรองรับปริมาณงานดังกล่าวได้
ND H100 v5 VM เป็นนวัตกรรมล่าสุดที่เกิดจากความร่วมมือนี้ มีขนาดตามความต้องการตั้งแต่แปดถึงหลายพัน GPU NVIDIA H100 ที่เชื่อมต่อกันด้วยเครือข่าย NVIDIA Quantum-2 InfiniBand ลูกค้าสามารถคาดหวังการปรับปรุงประสิทธิภาพของโมเดล AI อย่างมีนัยสำคัญเหนือ ND A100 v4 VM รุ่นก่อนหน้า
ND H100 v5 VM มี GPU NVIDIA H100 Tensor Core แปดตัวที่เชื่อมต่อกันผ่าน NVSwitch และ NVLink 4.0 รุ่นต่อไป นอกจากนี้ยังมี 400Gb/s NVIDIA Quantum-2 CX7 InfiniBand ต่อ GPU และเครือข่าย 3.2Tb/s ต่อ VM สำหรับเครือข่าย fat-tree ที่ไม่มีการปิดกั้น VM นี้มี NVSwitch และ NVLink 4.0 ที่ให้แบนด์วิดท์แบบแบ่งครึ่ง 3.6TB/s ทั่วทั้งแปด GPU ในเครื่องในแต่ละ VM นอกจากนี้ ยังมีโปรเซสเซอร์ Intel Xeon Scalable เจนเนอเรชั่น 4 และการเชื่อมต่อระหว่างโฮสต์-GPU PCIE Gen5 ที่ให้แบนด์วิธ 64GB/s ต่อ GPU นอกจากนี้ยังมี DDR5 DIMM 16 ช่องสัญญาณ 4800MHz
VM ใหม่นี้คาดว่าจะนำเสนอนวัตกรรม AI ที่ล้ำสมัยแก่องค์กรต่างๆ ทั่วโลก Ian Buck รองประธานฝ่าย Hyperscale และ High-Performance Computing ของ NVIDIA กล่าวว่า ND H100 v5 VM จะช่วยขับเคลื่อนยุคใหม่ของแอปพลิเคชันและบริการ AI เชิงสร้างสรรค์
ND H100 v5 VM พร้อมให้ใช้งานในการแสดงตัวอย่างตั้งแต่เริ่มต้น วันนี้และจะกลายเป็นข้อเสนอมาตรฐานในพอร์ตโฟลิโอ Azure มันจะช่วยให้ทุกคนสามารถปลดล็อกศักยภาพของ AI ในวงกว้างในระบบคลาวด์ ด้วย VM ใหม่นี้ Microsoft แสดงให้เห็นอีกครั้งถึงความมุ่งมั่นในการพัฒนาด้าน AI และทำให้ทุกคนสามารถเข้าถึงได้