Isso é significativo, pois o treinamento de IA é um processo de TI que permaneceu firmemente no local e não foi transferido para a nuvem. São necessários equipamentos muito caros, assim como grandes volumes de dados, portanto, a nuvem não é adequada para a maioria dos treinamentos de IA, e o relatório observa isso. Além disso, as lojas de TI querem manter esse tipo de IP internamente. Portanto, se o senhor estiver fazendo experiências com IA, a conta de energia vai aumentar.
Embora o relatório tenha usado o dióxido de carbono como medida, esse ainda é o produto da geração de eletricidade. O treinamento envolve o uso dos processadores mais potentes, normalmente GPUs da Nvidia, e eles não são conhecidos por consumirem pouca energia. E, como observa o documento, “o treinamento de modelos também incorre em um custo substancial para o meio ambiente devido à energia necessária para alimentar esse hardware por semanas ou meses seguidos”.
O treinamento é a parte da IA que mais consome o processador. Isso significa que as GPUs da Nvidia, que consomem muita energia, são executadas com utilização total durante todo o tempo. Nesse caso, trata-se de tentar entender como lidar e processar perguntas em linguagem natural, em vez de frases quebradas de palavras-chave, como em uma pesquisa típica do Google.
