O resfriamento a ar tradicional, que envolve dissipadores de calor e ventiladores, só funciona de forma eficaz até cerca de 30 kW por rack. Depois disso, os ventiladores simplesmente não conseguem acompanhar o ritmo, e o resfriamento líquido é necessário. A maioria dos data centers não está equipada para resfriamento líquido e teriam que ser adaptados a um custo considerável.
Juntamente com as deficiências de hardware, muitas empresas estão lidando com a escassez de profissionais de TI qualificados. Sempre houve uma escassez de pessoas com habilidades analíticas, por exemplo, e isso só foi exacerbado com a explosão da popularidade e do uso da IA.
IA como serviço
As empresas que não têm o hardware adequado para fazer o treinamento em IA têm duas opções: fazer um investimento maciço em hardware ou recorrer a provedores de serviços em nuvem para IA como serviço, que a maioria dos principais provedores de serviços em nuvem oferece atualmente. Em vez de fazer o investimento milionário em hardware, uma empresa pode fazer o upload dos dados a serem processados e o provedor de serviços em nuvem pode fazer o trabalho pesado. A empresa pode receber de volta os modelos de dados treinados quando o processamento estiver concluído.
Os clientes geralmente optam por soluções completas de fornecedores de IA na nuvem, especialmente no início, “porque eles facilitam as coisas para os clientes com um simples botão”, disse Voruganti. Mas os custos variáveis da nuvem – que as empresas incorrem a cada leitura ou gravação de dados baseados na nuvem, ou a cada extração de dados, por exemplo – podem fazer com que as equipes de TI reconsiderem essa abordagem.
Voruganti disse que está vendo as empresas optarem por colocar modelos de base em diferentes provedores de serviços de nuvem com base em suas áreas de especialização. Assim, um provedor pode oferecer modelos sólidos baseados em visão, enquanto outro pode ter modelos melhores de linguagem geral ou de linguagem ampla.
“Há um desejo cada vez maior de que as pessoas aproveitem esses modelos de diferentes nuvens”, disse Voruganti. E [if they can maintain their own control over their data]E, como um local neutro, elas podem levar o modelo para onde os dados estão e personalizá-lo.”
