A plataforma Quantum-2 é construída em torno de um novo switch InfiniBand, que possui 57 bilhões de transistores em silício de sete nanômetros. Com mais de cinco vezes a capacidade de comutação do Quantum-1, a nova plataforma Quantum-2 apresenta 64 portas a 400 Gbps ou 128 portas a 200 Gbps. A Quantum-2 estará disponível em configurações de até 2.048 portas. Graças à tecnologia Quantum-2 SHARPv3 In-Network Computing, o desempenho dos aplicativos de IA será 32 vezes melhor.
O Quantum-2 está disponível em fornecedores de infraestrutura e sistemas, incluindo Atos, DataDirect Networks (DDN), Dell Technologies, Excelero, GIGABYTE, HPE, IBM, Inspur, Lenovo, Penguin Computing, QCT, Supermicro, VAST Data e WekaIO.
Novo hardware da Mellanox
Além do switch Quantum-2, a Nvidia apresentou um novo hardware de endpoint. O ConnectX-7, o mais recente em sua placa de adaptador de canal de host (HCA) inteligente, que, segundo Huang, dobra a taxa de dados do ConnectX-6. Com seu processador de caminho de dados de 256 threads, ele faz criptografia na taxa de linha.
Em conjunto com a arquitetura Quantum-2, o ConnectX-7 oferece 400 Gbps de taxa de transferência e os mecanismos de aceleração In-Network Computing da Nvidia para fornecer aceleração e escalabilidade adicionais para supercomputação, inteligência artificial e data centers em nuvem de hiperescala.
A segunda peça do quebra-cabeça é a unidade de processamento de dados (DPU) BlueField-3, que vem na placa ConnectX, com 400 Gbps de Ethernet ou conectividade de rede InfiniBand NDR 400Gbps. A DPU BlueField-3 descarrega, acelera e isola as funções de rede, armazenamento, segurança e gerenciamento definidas por software com 16 CPUs ARM de 64 bits.
Essas tarefas de infraestrutura consomem 30% do uso da CPU, e esse número está crescendo, disse Huang. “Para data centers de vários bilhões de dólares, a capacidade liberada pode representar uma enorme economia de custos ou um aumento na taxa de transferência”, disse ele.