Os novos sistemas DGX são mais do que apenas velocidades e feeds; eles oferecem uma forma totalmente nova de comunicação entre chips, disse Charlie Boyle, vice-presidente de sistemas DGX da Nvidia. “Em um trabalho de treinamento de IA muito grande… o senhor pode passar 60% do seu tempo apenas conversando entre si na GPU. Se eu puder aumentar drasticamente a velocidade da rede colocando-a no NVlink, que é uma rede baseada em memória e não em uma rede de banco de dados tradicional, poderei realizar esse trabalho com muito mais eficiência”, disse ele.
Um rack DGX é um gabinete de 44U com 18 bandejas de computação, nove bandejas de switch, algumas unidades de distribuição de energia, um switch de gerenciamento de energia, um coletor de resfriamento líquido e um backplane NVlink. Até agora, os sistemas DGX eram resfriados a ar – esta é a primeira unidade com resfriamento líquido, uma admissão tácita de que o essas coisas esquentam. Boyle se recusou a comentar os rumores de que o processador Blackwell funcionaria com mais de 1.000 watts de potência.
“Isso foi feito para aumentar a eficiência e a densidade”, disse Boyle. “Para colocar 72 GPUs em um rack e ter o NVlink junto, eles precisam ser muito densos. Disponibilizamos essa tecnologia para nossos parceiros OEM e ODM. Eles podem optar por trazer diferentes configurações, diferentes densidades. Mas, no caso do produto que estou vendendo como DGX, ele é resfriado a líquido devido à alta densidade do sistema.”
