Siga o Diário da Mídia no Google Clique em Seguir e não perca nenhuma novidade. Seguir Tecnologia

Groq troca SRAM por 3D stacked DRAM e prioriza capacidade

Resumo

Groq, empresa adquirida pela NVIDIA, planeja migrar a próxima geração de seus LPUs de SRAM para uma solução de DRAM empilhada em 3D, visando ampliar capacidade de memória. A decisão vem após a entrada em produção dos racks LPX em agosto; a geração atual usa 500 MB de SRAM por LPU e racks com 256 chips alcançam 128 GB de SRAM e até 640 TB/s de largura de banda agregada.

Publicidade
Groq troca SRAM por 3D stacked DRAM e prioriza capacidade
Foto: Divulgação
Pergunte à IA sobre isto:

Groq — a unidade do ecossistema da NVIDIA responsável pelos LPUs — está mudando a prioridade de projeto: em vez de maximizar a largura de banda com SRAM, a próxima geração aposta em empilhamento 3D de DRAM para elevar a capacidade total dos chips, uma escolha com impacto direto em quem treina e serve modelos de grande escala.

Capacidade versus pico de largura de banda: a mudança técnica

A geração atual dos LPUs da Groq utiliza 500 MB de SRAM por chip, alcançando taxas de banda de até 150 TB/s por unidade. Em racks configurados com 256 desses LPUs, isso soma cerca de 128 GB de SRAM e 640 TB/s de banda agregada.

Publicidade

Os LPX racks, parte do ecossistema Vera Rubin, entraram em produção em agosto e exibiram desempenho inicial expressivo — 3.400 Tokens Por Segundo quando pareados a servidores NVL72 — o que mostra por que fabricantes avaliam alternativas que aumentem a memória disponível.

"Groq planeja introduzir empacotamento 3D em seus chips, envolvendo o empilhamento de DRAM em vez do SRAM atual. A indústria interpreta esse movimento como uma intenção de aumentar significativamente a capacidade dos chips: SRAM é rápida, porém tem capacidade limitada, enquanto DRAM, embora mais lenta, permite implementar grandes capacidades."

O que muda com o empilhamento 3D e implicações práticas

O empilhamento 3D permitirá agregar várias camadas de DRAM em um único pacote vertical, conectadas por TSVs (Through-Silicon Vias), similar ao design de HBM. Isso reduz a área ocupada na superfície e tende a melhorar a eficiência energética em comparação a pacotes DRAM tradicionais.

Segundo a arquitetura descrita, a Groq pretende preservar aspectos de alto desempenho dos chips SRAM atuais, mas entregar alternativas com muito mais memória bruta; há também a perspectiva de ofertas separadas de DRAM e SRAM, para uso conforme a necessidade da plataforma.

Publicidade

O que você acha? Você concorda com a aposta da Groq em aumentar a capacidade em detrimento do pico de largura de banda? Para acompanhar mais, acesse nossa editoria.

Foto: Divulgação

Deixe seu Like

0 reagiram

Perguntas Frequentes

O que a mudança de SRAM para 3D stacked DRAM significa para os LPUs da Groq?

A Groq vai migrar seus LPUs para DRAM empilhada em 3D, priorizando maior capacidade em cada chip em vez de maximizar pico de banda. Atualmente cada LPU possui 500 MB de SRAM e atinge 150 TB/s de banda; a nova abordagem visa multiplicar a memória útil por unidade, beneficiando modelos que exigem grandes buffers de dados.

Quando os LPUs com DRAM 3D-stacked da Groq devem começar a aparecer em produção?

A Groq, empresa adquirida pela NVIDIA, apresentou planos para a próxima geração com DRAM 3D-stacked, mas não divulgou um cronograma público de lançamento. Enquanto isso, os racks LPX entraram em produção em agosto e já demonstraram 3.400 Tokens Por Segundo quando combinados com servidores NVL72.

Publicidade

Como o empilhamento 3D de DRAM vai impactar o uso em racks como os LPX e no ecossistema Vera Rubin?

A Groq pretende usar 3D stacking com TSVs, uma técnica semelhante ao HBM, para reduzir área e melhorar eficiência energética, o que pode aumentar a memória disponível por rack. Em aplicações Vera Rubin e LPX, isso favorece cargas que demandam grande capacidade de memória, mantendo a opção de combinar DRAM e SRAM conforme o caso.

Publicidade
Compartilhar:
POR Dimitri Lares
Dimitri Lares

Redação e cobertura geral | Dimitri Lares atua na redação do Diário da Mídia, produzindo notícias e conteúdos informativos sobre atualidades, acontecimentos do dia a dia e temas de interesse geral. Seu foco é a produção de textos claros, diretos e atualizados.

Talvez Você Goste