將需要 30,000 張 Nvidia 顯卡
TrendForce 估計 OpenAI 的 ChatGPT 最終將需要超過 30,000 張 Nvidia 顯卡。
這些卡將是 Nvidia 的計算加速器,例如 A100,因此遊戲玩家應該沒有任何問題。
使用 A100(安培)加速器。 TrendForce 計算出 ChatGPT 需要大約 20,000 個單元來處理訓練數據。隨著 OpenAI 繼續在商業上部署 ChatGPT 和該公司的生成式預訓練變壓器 (GPT) 模型,這個數字將顯著增加,可能超過 30,000 個單元。
A100 的成本在 10,000 美元到 15,000 美元之間,這意味著 Nvidia將獲得至少 3 億美元的收入。這個數字可能會略低,因為 Nvidia 可能會給 OpenAI 打折。 OpenAI 可能會單獨購買 A100 並將它們堆疊成集群。
Nvidia 已經開始發售 H100 (Hopper)。 Hopper 的性能比其前身高出三倍,擴展性更好,並且在 AI 訓練中的吞吐量高出九倍。然而,它的價格為 32,000 美元,有點太貴了。
英特爾和 AMD 也提供競爭對手的 AI 加速器,因此 Nvidia 不會獨占市場,但看起來它最終會製造來自新淘金熱的相當數量。