Em contrapartida, o HBM-PIM leva o poder de processamento diretamente para onde os dados são armazenados, colocando um mecanismo de IA otimizado para DRAM dentro de cada banco de memória – uma subunidade de armazenamento – permitindo o processamento paralelo e minimizando a movimentação de dados.
Quando aplicada à atual memória HBM2 da Samsung, chamada Aquabolt, a nova arquitetura pode oferecer mais do que o dobro do desempenho do sistema e, ao mesmo tempo, reduzir o consumo de energia em mais de 70%. O HBM-PIM também não requer nenhuma alteração de hardware ou software, permitindo uma integração mais rápida aos sistemas existentes.
“Nosso inovador HBM-PIM é a primeira solução de PIM programável do setor feita sob medida para diversas cargas de trabalho orientadas por IA, como HPC, treinamento e inferência. Pretendemos aproveitar esse avanço colaborando ainda mais com os fornecedores de soluções de IA para aplicações ainda mais avançadas baseadas em PIM”, disse Kwangil Park, vice-presidente sênior de planejamento de produtos de memória da Samsung Electronics, em um comunicado.
O HBM-PIM da Samsung está agora sendo testado dentro de aceleradores de IA pelos principais parceiros de soluções de IA, com todas as validações previstas para serem concluídas no primeiro semestre deste ano.
