E embora a Nvidia não tenha se queixado do fornecimento em sua mais recente chamada de lucros, aparentemente ela tem um problema com isso. A Omdia diz que os principais OEMs de servidores, como Dell, Lenovo e HPE, ainda não podem atender aos pedidos de servidores com GPU, devido à falta de fornecimento de GPU pela Nvidia. Os OEMs indicaram um prazo de entrega de 36 a 52 semanas para servidores configurados com GPUs Nvidia H100.
Isso se deve, em parte, ao fato de que alguns poucos participantes estão absorvendo todo o suprimento. A Omdia observou que tanto a Microsoft quanto a Meta estão no caminho certo para receber 150.000 aceleradores H100 da Nvidia até o final deste ano – o que é três vezes mais do que os outros grandes clientes da Nvidia, Google, Amazon e Oracle.
Esses servidores de alta potência também estão impulsionando a demanda por melhor eficiência e gerenciamento de energia. Os operadores de data centers precisam obter mais potência de computação com o mesmo envelope de energia devido a restrições e ao fornecimento de energia. A Omdia disse que a receita de distribuição de energia em rack no 1S23 aumentou 17% em relação ao ano passado, enquanto o crescimento da receita de UPS para o primeiro semestre de 2023 foi 7% superior ao do ano passado.
“Com uma rampa de serviços profissionais para IA generativa permitindo uma ampla adoção corporativa em 2024 e além, a única coisa que pode conter a taxa atual de implantação de IA é a disponibilidade de energia”, disse a Omdia em seu relatório.
A IA também é impulsionando a demanda por resfriamento líquidojá que o resfriamento a ar simplesmente não é mais eficiente para os processadores muito quentes usados em IA. Os fornecedores de resfriamento e OEMs de servidores disseram à Omdia que o resfriamento líquido direto no chip está aumentando de acordo com sua previsão de crescimento de receita de 80% no ano, e observou que o fornecedor de servidores Super Micro disse recentemente que espera que 20% dos servidores que serão lançados no 4T23 usem resfriamento líquido direto no chip.
Até 2027, a Omdia espera um crescimento contínuo na densidade de energia do rack, na melhoria do desempenho do servidor e na consolidação da frota de servidores. Haverá um grande foco no desempenho da computação para permitir a comercialização da IA. Os modelos de IA continuarão a ser um projeto de pesquisa que exige muito ajuste, até mesmo bibliotecas de modelos pré-treinados.
