Requerirá 30 000 tarjetas gráficas Nvidia
TrendForce estima que ChatGPT de OpenAI eventualmente necesitará más de 30 000 tarjetas gráficas Nvidia.
Las tarjetas sean los aceleradores informáticos de Nvidia, como el A100, por lo que los jugadores no deberían tener ningún problema.
Utilizando el acelerador A100 (amperios). TrendForce descubrió que ChatGPT requería alrededor de 20 000 unidades para procesar los datos de entrenamiento. El número aumentará significativamente, posiblemente más de 30 000 unidades, a medida que OpenAI continúe implementando ChatGPT y el modelo de Transformador preentrenado generativo (GPT) de la compañía comercialmente.
El A100 cuesta entre $ 10,000 y $ 15,000, por lo que eso significará que Nvidia obtendrá al menos $ 300 millones en ingresos. El número puede ser un poco más bajo ya que es probable que Nvidia le dé un descuento a OpenAI. OpenAI probablemente comprará el A100 individualmente y los apilará en grupos.
Nvidia ya ha comenzado a distribuir el H100 (Hopper). Hopper ofrece un rendimiento hasta tres veces superior al de su predecesor, escala aún mejor y ofrece un rendimiento hasta nueve veces mayor en el entrenamiento de IA. Sin embargo, es un poco demasiado caro con un precio de $32,000.
Intel y AMD también ofrecen aceleradores de IA rivales, por lo que Nvidia no tendrá el mercado solo, pero parece que terminará fabricando una buena cantidad de la nueva fiebre del oro.