“O RSC ajudará os pesquisadores de IA da Meta a criar modelos de IA novos e melhores, capazes de aprender com trilhões de exemplos, trabalhar em centenas de idiomas diferentes, analisar textos, imagens e vídeos de forma integrada, desenvolver novas ferramentas de realidade aumentada e muito mais”, escreveram Kevin Lee, gerente de programa técnico, e Shubho Sengupta, engenheiro de software, ambos da Meta em um post no blog.
“Esperamos que o RSC nos ajude a criar sistemas de IA totalmente novos que possam, por exemplo, fornecer traduções de voz em tempo real para grandes grupos de pessoas, cada uma falando um idioma diferente, para que possam colaborar perfeitamente em um projeto de pesquisa ou jogar um jogo de RA juntos”, escreveram eles.
Além de todo o poder de processamento, a RSC também tem 175 petabytes de Pure Storage FlashArray, 46 petabytes de armazenamento em cache e 10 petabytes de equipamentos de armazenamento de objetos da Pure.
Estima-se que o RSC seja nove vezes mais rápido do que o cluster de pesquisa anterior da Meta, composto por 22.000 GPUs V100 da geração mais antiga da Nvidia, e 20 vezes mais rápido do que seus sistemas de IA atuais. A Meta não planeja aposentar o sistema antigo.
A empresa está concentrada na criação de modelos de aprendizado para tarefas automatizadas com foco em conteúdo. A empresa queria essa infraestrutura para treinar modelos com mais de um trilhão de parâmetros em conjuntos de dados tão grandes quanto um exabyte, com o objetivo de controlar todo o conteúdo gerado em sua plataforma.
“Ao fazer isso, podemos ajudar a avançar na pesquisa para realizar tarefas posteriores, como a identificação de conteúdo nocivo em nossas plataformas, bem como a pesquisa em IA incorporada e IA multimodal para ajudar a melhorar as experiências do usuário em nossa família de aplicativos. Acreditamos que esta é a primeira vez que o desempenho, a confiabilidade, a segurança e a privacidade foram abordados em tal escala”, escreveram Lee e Sengupta.
