SanDisk apresenta memória High Bandwidth Flash (HBF) que possibilita GPUs com até 4TB de VRAM

A SanDisk acaba de revelar uma nova tecnologia de memória chamada High Bandwidth Flash (HBF) que promete unir a capacidade elevada do 3D NAND à largura de banda extrema do High Bandwidth Memory (HBM).

O conceito, que ainda está em sua primeira geração, oferece até 4TB de capacidade de VRAM para GPUs, abrindo possibilidades para aplicações de inteligência artificial (IA), especialmente em inferência de dados.

Além disso, a empresa vislumbra o uso futuro dessa tecnologia em dispositivos móveis e outros equipamentos, elucidando o custo competitivo e a eficiência energética como principais benefícios.

Divulgação/Sandisk

Como funciona a memória HBF da SanDisk?

A arquitetura da HBF é baseada na tecnologia 3D NAND com design CMOS diretamente conectado ao array (CBA).

A estrutura combina um array de memória 3D NAND com um die lógico feito em processo de lógica de alta performance. A inovação está na divisão do array NAND em diversas subunidades que podem ser acessadas em paralelo, o que permite largura de banda massiva e alta capacidade.

A primeira geração do HBF utiliza 16 dies principais de HBF, cada um contendo 256 Gb de memória 3D NAND.

Desafiamos nossos engenheiros a explorar o poder da escalabilidade, e a solução foi dividir o grande array em vários arrays menores acessados em paralelo, alcançando assim uma largura de banda massiva

Alper Ilkbahar, da SanDisk

Os dies são empilhados usando uma tecnologia proprietária da SanDisk que minimiza deformações e permite acesso simultâneo a múltiplos dies, possibilitando o manuseio de centenas ou até milhares de fluxos de dados em paralelo.

A técnica oferece até 512 GB de capacidade por pilha, 21 vezes mais do que o HBM3E, que possui 24 GB por pilha.

Divulgação/SanDisk

Vantagens para IA e o mercado de alto desempenho

Embora a memória HBF não consiga igualar a latência do DRAM, como a do HBM, sua aplicação é excelente para tarefas que exigem grande capacidade de armazenamento e largura de banda, mas não demandam latência ultrabaixa. Exemplos incluem inferência de dados em IA, onde o throughput é mais importante do que a latência mínima.

De acordo com Alper Ilkbahar, chefe de tecnologia de memória da SanDisk, o objetivo do HBF é construir uma solução com custo similar ao do HBM, mas com 8 a 16 vezes mais capacidade.

A empresa também destacou que o HBF é projetado para se aproximar mecanicamente e eletricamente do HBM, exigindo apenas pequenas mudanças no protocolo para implementação em dispositivos host.

Divulgação/SanDisk

AspectoHBF (High Bandwidth Flash)HBM (High Bandwidth Memory)Capacidade Total em GPUsAté 4.096GB (4TB) com 8 pilhasAté 192GB com 8 pilhas (HBM3E)Capacidade por PilhaAté 512 GB (na 1ª geração, com potencial futuro)Até 24GB por pilha (HBM3E)Largura de BandaNão especificado, mas próximo ao HBMAté 1TB/s por pilha (HBM3E)LatênciaMaior (própria do NAND, projetado para throughput)Baixa (ótima para tarefas sensíveis a tempo)Uso PrincipalIA com grandes conjuntos de dados e inferênciaTarefas de alta performance, como IA e jogosGranularidade de AcessoBaseada em blocos (limitação do NAND)Baseada em bitsCusto por GBMenor, mais próximo ao NANDMaior, devido à complexidadeEficiência EnergéticaAlta, ideal para dispositivos que priorizam consumo eficienteAlta, mas focada em performanceTecnologia Subjacente3D NAND com lógica integrada (TSVs e CBA)DRAM empilhada com interconexões TSVCompatibilidadeSimilar ao HBM, mas com ajustes no protocoloCompatível com padrões HBM existentesEscalabilidadeAlta (foco em grandes capacidades futuras)Limitada pela densidade de DRAMDurabilidade (Endurance)Menor (escrita limitada, típica do NAND)Maior (durabilidade típica da DRAM)

Importante destacar:

HBM é otimizado para latência ultrabaixa e desempenho extremo, mas a um custo maior e capacidade limitada.

HBF prioriza capacidade e custo-benefício, sendo ideal para cargas de trabalho que exigem alta largura de banda e grande armazenamento.

Desafios e limitações do HBF

Apesar dos grandes avanços, a tecnologia enfrenta alguns desafios. Memórias NAND têm uma vida útil limitada em termos de gravações, algo que não foi detalhado pela SanDisk no caso do HBF.

Além disso, enquanto o DRAM permite endereçamento em nível de bits, o NAND trabalha em granularidade de blocos, o que é outro obstáculo a ser superado. A endurance da memória (durabilidade de gravação) e os custos associados ao uso de tecnologias como SLC ou pSLC para melhorar a vida útil também podem limitar sua aplicação em determinadas áreas.

Entretanto, embora o HBF não deva substituir o HBM em tarefas que exigem latência ultrabaixa, ele pode ocupar um nicho no mercado onde capacidade elevada e custo-benefício são prioritários.

O objetivo do HBF é combinar largura de banda similar ao HBM com até 16 vezes mais capacidade a um custo competitivo

Alper Ilkbahar, da SanDisk

Evidentemente, a SanDisk vislumbra o HBF como um padrão aberto no futuro, incentivando a criação de um ecossistema colaborativo para expandir suas aplicações.

A inovação joga luz no mercado em um momento em que o mercado de IA e computação de alto desempenho busca alternativas mais acessíveis e sustentáveis para lidar com grandes volumes de dados.

Afinal, tecnologias como o HBF são relevantes em um contexto onde a evolução dos dispositivos de consumo, como GPUs e SSDs, está cada vez mais acelerada.

Leia também:

CEO da NVIDIA diz que processo HBM da Samsung não é confiável

SK Hynix divulga renda recorde em 2024 graças à demanda de HBM3 e HBM3E para IA

Marvell revela HBM customizado prometendo mais performance em menos espaço

Blackwell Ultra: NVIDIA prepara chip B300 com 288GB de HBM3E [RUMOR]

Aplicações futuras

A SanDisk já planeja evoluções para o HBF em três gerações. A tecnologia, apesar de ainda ser um “trabalho em progresso”, oferece uma nova perspectiva para mercados que exigem alta capacidade, eficiência energética e custo competitivo.

Divulgação/SanDisk

A aplicação em inteligência artificial é apenas o início, e o futuro pode incluir dispositivos móveis e outros produtos de consumo. Com essa proposta, a SanDisk quer novamente se posicionar como uma das líderes na inovação em memórias para aplicações de alto desempenho.

Fonte: Tom’s Hardware