Felizmente, está sendo usado para o”bem”
A IBM revelou seu”supercomputador AI”composto por várias máquinas virtuais em execução no IBM Cloud.”
Apelidada de Vela, a IA está em execução desde maio do ano passado e é apresentada como o primeiro supercomputador nativo da nuvem otimizado para IA da IBM. Ele foi desenvolvido para criar e treinar modelos de IA em grande escala.
Biggish Blue disse que a plataforma está atualmente reservada para uso pela comunidade de pesquisa da IBM e tornou-se popular entre os pesquisadores que criam recursos avançados de IA desde maio de 2022, incluindo o trabalho em modelos de base.
A IBM afirma que escolheu essa arquitetura porque oferece à empresa maior flexibilidade para escalar conforme necessário e também a capacidade de implementar infraestrutura semelhante em qualquer datacenter IBM Cloud em todo o mundo.
O Vela é baseado em um sistema de soquete duplo com 2nd G pt Processadores Xeon Scalable configurados com 1,5 TB de DRAM e quatro flash drives NVMe de 3,2 TB, além de oito GPUs Nvidia A100 de 80 GB, esta última conectada por NVLink e NVSwitch.
Isso torna a infraestrutura Vela mais próxima da de um site de computação de alto desempenho do que uma infraestrutura de nuvem típica, apesar da insistência da IBM de que estava seguindo um caminho diferente, já que”os supercomputadores tradicionais não foram projetados para IA”.
A IBM usou processadores x86 em vez de seus próprios chips Power 10 o que é um pouco estranho, já que a inferência de IA de modelo grande foi para o que os Power 10s foram projetados.