High-bandwidth flash architecture, applications and technical milestones: HBF pode complementar HBM em inferência de IA, mas a comercialização continua tecnicamente não comprovada

Visão geral

O relatório resume uma discussão de especialistas sobre flash de alta largura de banda (HBF) e seu potencial papel na hierarquia de memória de IA. Sua conclusão central é que a HBF pode adicionar armazenamento não volátil de alta capacidade a sistemas híbridos de inferência, enquanto a HBM continua essencial para computação de baixa latência e treinamento; o cronograma e a viabilidade econômica da comercialização permanecem incertos.

Visões principais

O relatório apresenta a HBF como uma tentativa baseada em NAND de paralelizar dispositivos flash para alcançar uma largura de banda substancialmente maior, em conceito amplo semelhante à forma como a HBM paraleliza a DRAM. Contudo, não espera que a HBF desloque a HBM no treinamento de modelos. O treinamento exige atualizações frequentes de pesos, e a NAND tem desempenho e durabilidade de escrita materialmente inferiores aos da HBM. A HBM já está estabelecida para processamento de alta largura de banda e baixa latência e para atualizações frequentes de pesos, devendo manter seu papel central para produzir resultados de IA com desempenho suficiente. A entrada mais plausível é a inferência de IA híbrida. Nessa arquitetura, a HBM permanece como a camada rápida para computação sensível à latência e geração de resultados, enquanto a HBF pode oferecer maior capacidade para material relativamente intensivo em leitura, incluindo pesos de modelos, cache KV, dados de prefill e índices. Modelos de mixture-of-experts e modelos densos podem se beneficiar à medida que os requisitos de modelo e contexto excedem a capacidade disponível de HBM. O relatório enfatiza que a HBM continua necessária mesmo na inferência, pois a computação final e a produção rápida de resultados dependem dela; o valor potencial está em uma hierarquia combinada HBM/HBF, não em um sistema apenas de HBF. A análise destaca que o desempenho proposto para a HBF continua em grande parte hipotético. Não há dispositivos funcionais que permitam medir consumo real de energia, limites térmicos, largura de banda, latência, confiabilidade ou custo. Resultados de simulação baseados em especificações-alvo sugerem que sistemas híbridos podem ser vantajosos em casos específicos de inferência, mas não equivalem a evidência de produção. O especialista identifica consumo de energia, dissipação térmica, durabilidade de escrita, projeto de controladores e largura de banda alcançável como obstáculos principais, além da necessidade de algoritmos de controlador e correção de erros para lidar com desgaste e confiabilidade específicos da NAND. As escolhas de arquitetura podem afetar o caminho de desenvolvimento. O especialista caracteriza Samsung, SK Hynix e Kioxia como empresas que seguem uma rota mais incremental, elevando inicialmente a largura de banda com projetos baseados em PCIe, com PCIe 6.0 como avanço em relação ao PCIe 5.0. A abordagem da Sandisk é descrita como um conceito de interface mais ambicioso e de prazo mais longo, que pode se aproximar da largura de banda de DDR e evoluir adiante. O relatório vê como positiva a direção do trabalho da Sandisk em uma interface de host padronizada, mas afirma que uma adoção mais ampla exigirá funcionalidade demonstrada de controlador, integração com aceleradores, gestão térmica, encapsulamento fabricável e qualificação de clientes. O cronograma previsto para produtos continua gradual. O especialista espera que produtos iniciais de flash de maior largura de banda baseados em PCIe possam surgir na segunda parte de 2027, enquanto implementações de HBF mais estreitamente integradas exigirão um ciclo mais longo de engenharia e qualificação. Os testes-chave de comercialização são um controlador HBF integrado ao PCIe 6.0 e, posteriormente, a integração com interconexões de aceleradores como NVLink. Uma interface que permita à HBF participar de um sistema de memória conectado por NVLink pode torná-la uma camada adicional de memória mais funcional, embora com limitações próprias. O encapsulamento também é uma questão material, pois colocar flash perto de computação de alta potência deve evitar compromissos proibitivos de calor, rendimento e custo; as abordagens atuais com interposer são vistas como caras. No longo prazo, o relatório vê aplicações potenciais além de servidores em PCs, sistemas de jogos, robótica, automação industrial e, por fim, smartphones. A HBF não volátil pode preservar modelos, contexto local e estado de aplicações sem atualização contínua de DRAM, potencialmente permitindo retomada mais rápida, menor consumo em espera e inferência on-device mais capaz. A adoção de IA de borda em si pode começar a acelerar no início de 2027 sem que a HBF seja necessária para o ciclo inicial, enquanto a maior oportunidade de longo prazo da HBF pode surgir em dispositivos de borda voltados ao consumidor. O especialista espera que notebooks e desktops sejam as plataformas iniciais mais prováveis para experimentação de borda antes dos telefones, mas permanece cauteloso sobre a adoção em smartphones sem evidência sobre energia e manutenção de desempenho. Em ações, o relatório identifica a Sandisk como a beneficiária direta mais clara da HBF, condicionada a uma execução técnica bem-sucedida. Seu objetivo de preço de $2,500 baseia-se em aproximadamente 10x C27E EPS de $255, em linha com o múltiplo médio de pares globais de memória devido à rentabilidade semelhante.

Estrutura de análise

O relatório utiliza uma entrevista com especialista para comparar a HBF com as camadas de memória existentes de HBM, DRAM e SSD e, em seguida, avalia a HBF por tipo de carga de trabalho, restrições técnicas, opções de arquitetura, marcos de desenvolvimento e mercados finais potenciais. Distingue projeções baseadas em simulação de evidência medida em produção e conecta a discussão técnica à exposição potencial da Sandisk.

Notas metodológicas

• OutroOutro

  Entrevista com especialista e avaliação de arquitetura técnica

  O relatório se baseia na avaliação de um especialista sobre arquiteturas de memória de IA, comparando as capacidades e limitações propostas da HBF com a HBM e avaliando os marcos de hardware necessários para comercialização.

• Métodos de avaliaçãoAvaliação por P/L e PEG

  Objetivo de preço baseado em múltiplo de lucros

  Para a Sandisk, o relatório baseia seu objetivo de preço de $2,500 em aproximadamente 10x C27E EPS de $255, comparado com pares globais de memória de rentabilidade semelhante.

Mapeamento e comparação de ativos

Mapeamento estruturado da tese para ativos nomeados (pontos fortes, pontos fracos, pares e riscos).

• Sandisk Corporation (SNDK)

  É identificada como a beneficiária direta mais clara da HBF caso sua execução técnica seja bem-sucedida.

  Pontos fortes

  O relatório vê como positiva a direção de seu trabalho em uma interface de host padronizada e destaca sua arquitetura HBF mais ambiciosa e de prazo mais longo.

  Pontos fracos

  Sua abordagem proposta enfrenta requisitos importantes de engenharia e comercialização ainda não resolvidos.

  Comparação

  Samsung, SK Hynix e Kioxia são descritas como empresas que seguem abordagens mais incrementais baseadas em PCIe, enquanto a Sandisk persegue uma abordagem de interface de prazo mais longo.

  Riscos

  A adoção de HBF requer funcionalidade demonstrada do controlador, integração com aceleradores, gestão térmica, encapsulamento fabricável e qualificação de clientes; riscos declarados separadamente incluem sobreoferta de NAND, concorrência chinesa, adoção mais lenta de produtos de consumo habilitados por IA e perda de participação em eSSD.

Dados principais

• Cronograma inicial de produtos HBFLatter part of 2027Momento esperado para produtos iniciais de flash de maior largura de banda baseados em arquiteturas PCIe.
• Cronograma de adoção de IA de bordaEarly 2027O especialista espera que a adoção mais ampla de IA de borda comece a acelerar, embora a HBF não seja necessária para o ciclo inicial.
• Capacidade HBF propostaUp to 2TBMencionada como nível de capacidade proposto; modelos, prefills e requisitos de contexto maiores podem exigir mecanismos arquitetônicos adicionais.
• Objetivo de preço da Sandisk$2,500Baseado em aproximadamente 10x C27E EPS de $255.
• Múltiplo de avaliação da SandiskApproximately 10x C27E EPSIndicado como em linha com a média dos pares globais de memória devido à rentabilidade semelhante.
• C27E EPS da Sandisk$255Dado de lucros usado na metodologia de objetivo de preço do relatório.

Impacto e implicações

A implicação do relatório é que a HBF pode ampliar a capacidade efetiva de memória disponível para sistemas de inferência de IA e, por fim, melhorar a funcionalidade de dispositivos de borda por meio de armazenamento local não volátil. Sua relevância no curto prazo depende menos de uma substituição ampla da HBM do que de arquiteturas híbridas demonstrarem potência, latência, largura de banda, durabilidade, confiabilidade e custo aceitáveis.

Riscos

• A HBF pode não atingir metas necessárias de potência, térmica, largura de banda, latência, durabilidade de escrita, confiabilidade ou custo em cargas de trabalho reais.
• A adoção comercial pode ser atrasada pelo desenvolvimento de controladores, integração com aceleradores, desafios de encapsulamento e qualificação de clientes.
• Uma queda acentuada nos preços de NAND devido à sobreoferta pode pressionar a Sandisk.
• A concorrência e expansão de capacidade por fornecedores chineses de NAND, como a YMTC, podem aumentar a pressão.
• A adoção de produtos de consumo habilitados por IA pode ser mais lenta que o esperado.
• A Sandisk pode perder participação de mercado em eSSD.

Pontos a observar

• O lançamento de um controlador HBF integrado ao PCIe 6.0.
• Evidência de que controladores HBF podem fazer interface com interconexões de aceleradores como NVLink.
• Dados de produção medidos sobre potência, comportamento térmico, largura de banda, latência, durabilidade e confiabilidade.
• Avanços em encapsulamento de baixo custo e fabricável para posicionar flash perto de computação de alta potência.
• Qualificação e implantação por clientes de sistemas híbridos de inferência HBM/HBF.
• O surgimento de produtos iniciais de flash de alta largura de banda baseados em PCIe no fim de 2027.