Requer 30.000 placas gráficas Nvidia
TrendForce estima que o ChatGPT da OpenAI eventualmente precisará de mais de 30.000 placas gráficas Nvidia.
As placas irão ser os aceleradores de computação da Nvidia, como o A100, para que os jogadores não tenham problemas.
Usando o acelerador A100 (Ampere). A TrendForce descobriu que o ChatGPT exigia cerca de 20.000 unidades para processar dados de treinamento. O número aumentará significativamente, potencialmente mais de 30.000 unidades, pois a OpenAI continua a implantar comercialmente o ChatGPT e o modelo Generative Pre-Trained Transformer (GPT) da empresa.
O A100 custa entre US$ 10.000 e US$ 15.000, o que significa Nvidia obterá pelo menos US$ 300 milhões em receita. O número pode ser um pouco menor, já que a Nvidia provavelmente dará um desconto ao OpenAI. A OpenAI provavelmente comprará o A100 individualmente e os empilhará em clusters.
A Nvidia já começou a enviar o H100 (Hopper). O Hopper oferece desempenho até três vezes maior do que seu antecessor e escala ainda melhor e oferece rendimento até nove vezes maior em treinamento de IA. No entanto, é um pouco caro com um preço de $ 32.000.
A Intel e a AMD também oferecem aceleradores de IA rivais, então a Nvidia não terá o mercado para si mesma, mas parece que acabará fazendo uma boa quantia da nova corrida do ouro.