Memória de Semicondutores (HBM/DRAM): A Demanda por IA Eleva os Preços de HBM e DRAM, Enquanto a Computação em Memória Pode Remodelar o Gargalo de Memória no Longo Prazo

Visão geral

Este relatório discute como a IA está impulsionando a demanda, os preços e o crescimento de receita de HBM e DRAM, e analisa potenciais mudanças nas arquiteturas de memória à medida que a IA passa do treinamento para a inferência. Sua conclusão central é que a atual escassez decorre de uma demanda mais forte do que o esperado, do alto consumo de wafers pela HBM e da lenta expansão da oferta; as soluções de longo prazo incluem otimização algorítmica, dies base de HBM, memória customizada e computação em memória ou próxima à memória.

Visões principais

O relatório primeiro atribui a atual força da memória para IA à expansão dos investimentos de capital por data centers de hiperescala. Os gastos relacionados à IA estão superando as expectativas anteriores, enquanto os sistemas de computação exigem largura de banda de memória extremamente alta. Consequentemente, o crescimento da demanda se reflete não apenas em maior capacidade de armazenamento, mas também em demanda concentrada por produtos de alta largura de banda. Com base nisso, o relatório identifica os gastos com IA, os requisitos de largura de banda e as restrições de oferta como os três principais impulsionadores da escassez de DRAM. O impacto da HBM no lado da oferta é particularmente significativo. O relatório afirma que a HBM ocupa aproximadamente três vezes a área de die da DDR e, portanto, consome mais capacidade disponível para a mesma entrada de wafers. Enquanto isso, a produção de wafers de DRAM permaneceu essencialmente estagnada por mais de 10 anos, e a instalação de capacidade adicional leva mais de 2 anos, o que significa que a oferta não pode responder rapidamente à demanda por IA. A combinação de demanda em rápida ascensão e lenta expansão da oferta criou uma escassez de memória e intensificou a pressão de alta sobre os preços. Esse desequilíbrio entre oferta e demanda já se reflete na composição da receita do setor. O relatório usa o título “Receita Recorde de Memória $200”, mas o texto fornecido não especifica a unidade desse valor. Também afirma explicitamente que a maior parte do crescimento vem dos preços, e não simplesmente da expansão dos embarques. Isso significa que o principal mecanismo por trás do atual crescimento da receita é a melhoria de preços causada pela oferta restrita, enquanto o alto consumo de recursos de wafers pela HBM afeta ainda mais a dinâmica de oferta e precificação da DRAM convencional. O padrão de demanda de longo prazo mudará à medida que a IA se expandir do treinamento para a inferência. O relatório observa que os requisitos de recursos para inferência abrangem uma ampla faixa: aplicações de menor porte podem exigir apenas microcontroladores, enquanto os modelos de linguagem de grande porte permanecem no extremo superior, sustentados por data centers de hiperescala. Os requisitos de poder computacional, largura de banda e custo variam substancialmente entre os cenários de inferência; portanto, nenhuma solução única de memória cobrirá todas as cargas de trabalho de IA no futuro. O relatório também alerta que o atual problema de movimentação de dados pode não persistir indefinidamente em sua forma atual. Os algoritmos continuam a melhorar, potencialmente reduzindo a atual e pronunciada pressão de movimentação de dados. Enquanto isso, a computação em memória e próxima à memória pode reduzir as transferências de dados entre processadores e memória, fornecendo outro caminho para aliviar a “barreira da memória”. Portanto, o relatório descreve a barreira da memória em 2026 como “com aparência diferente”. A questão não é que o gargalo desaparecerá inteiramente, mas que a composição das cargas de trabalho, os algoritmos e as soluções de hardware mudarão conjuntamente sua forma. Direções tecnológicas específicas incluem o uso de dies base de HBM para incorporar mais funções lógicas, a adoção de chips de memória customizados para melhorar o desempenho e o uso de redes neurais analógicas em aplicações de menor porte. O relatório acredita que essas abordagens poderiam reduzir o tráfego de dados e aliviar a barreira da memória, mas o suporte atual de software permanece fraco e restringe a adoção de novas arquiteturas. A lógica subjacente é que as capacidades de hardware por si só são insuficientes para realizar uma transição arquitetural; cadeias de ferramentas e ecossistemas de software devem amadurecer em paralelo. No prazo mais longo, o relatório espera que a IA se torne gradualmente “invisível”, o que significa que será integrada aos sistemas cotidianos em vez de ser percebida como uma funcionalidade autônoma. A IA também pode reduzir os custos das aplicações e levar os usuários a utilizar agentes continuamente. O relatório compara esse processo à adoção inicial dos semicondutores, microprocessadores e microcontroladores, e da internet, indicando que sua perspectiva se concentra não apenas na demanda por HBM dos data centers, mas também nas mudanças na demanda por memória à medida que a IA se espalha para uma gama mais ampla de endpoints e faixas de custo.

Estrutura de análise

O relatório primeiro explica o crescimento da demanda por meio dos investimentos de capital de data centers de hiperescala e dos requisitos de largura de banda da IA; em seguida, analisa as escassezes e a transmissão de preços considerando a área de die da HBM em relação à DDR, a oferta de wafers de DRAM e os prazos de expansão de capacidade. Posteriormente, examina as mudanças nas cargas de trabalho do treinamento para a inferência, compara os requisitos de recursos entre faixas de computação e discute soluções para aliviar os gargalos de movimentação de dados, incluindo otimização algorítmica, dies base de HBM, memória customizada, redes neurais analógicas e computação em memória ou próxima à memória, antes de estender a análise à trajetória de adoção de longo prazo da IA.

Notas metodológicas

• Estrutura de Análise de Indústria/SetorEstrutura de Oferta e Demanda

  Análise de Oferta e Demanda de Memória para IA

  O relatório trata os gastos com IA mais fortes do que o esperado e os requisitos de alta largura de banda como impulsionadores da demanda, ao mesmo tempo que considera as restrições de longo prazo sobre a oferta de wafers de DRAM e o ciclo de expansão de capacidade de mais de 2 anos como restrições de oferta. Ele usa o desequilíbrio entre os dois para explicar a escassez e os aumentos de preços.

• Estrutura de Análise de Indústria/SetorDecomposição de Volume e Preço

  Decomposição de Volume e Preço do Crescimento da Receita de Memória

  O relatório afirma explicitamente que a maior parte do crescimento da receita vem dos preços, distinguindo assim as contribuições de preços mais elevados e do crescimento de embarques para a receita recorde de memória.

• Estrutura de Análise de Indústria/SetorTransmissão na Cadeia Industrial Upstream-Midstream-Downstream

  Transmissão dos Investimentos de Capital de Data Centers para os Preços de Memória

  O relatório explica o impacto na cadeia industrial por meio da sequência de investimento em IA por data centers de hiperescala, requisitos de largura de banda dos sistemas de computação, consumo de wafers de HBM, aperto da oferta de DRAM e alta dos preços de memória.

Mapeamento e comparação de ativos

Mapeamento estruturado da tese para ativos nomeados (pontos fortes, pontos fracos, pares e riscos).

• HBM

  Uma tecnologia primariamente beneficiada pela demanda de alta largura de banda da IA e uma fonte importante de pressão sobre a oferta de wafers de DRAM.

  Pontos fortes

  Pode atender aos requisitos de largura de banda de sistemas de IA de alto nível e usar dies base para incorporar mais funções lógicas.

  Pontos fracos

  Ocupa aproximadamente três vezes a área de die da DDR, resultando em custos e consumo de wafers mais elevados.

  Comparação

  Em comparação com a DDR, a HBM requer aproximadamente três vezes a área de die.

  Riscos

  Melhorias algorítmicas podem reduzir a pressão de movimentação de dados, enquanto o suporte insuficiente de software também pode limitar a adoção de novas arquiteturas de HBM.

• DRAM

  O alto consumo de wafers pela HBM e a demanda por IA apertam conjuntamente a oferta geral de DRAM e impulsionam os preços e a receita do setor.

  Pontos fortes

  Permanece uma base essencial de memória para sistemas de computação que vão do menor ao maior nível.

  Pontos fracos

  A produção de wafers permaneceu essencialmente estagnada por mais de 10 anos, e a instalação de capacidade adicional leva mais de 2 anos.

  Comparação

  A DDR tem uma área de die menor do que a HBM, mas compartilha recursos limitados de wafers de DRAM com a HBM.

  Riscos

  A lenta expansão da oferta pode prolongar a escassez, enquanto mudanças algorítmicas e arquiteturais podem alterar a estrutura de demanda de longo prazo.

• Computação em Memória e Próxima à Memória

  Alivia a barreira da memória ao reduzir a movimentação de dados entre processadores e memória.

  Pontos fortes

  Pode usar dies base de HBM, memória customizada ou arquiteturas de DRAM 3D para melhorar a eficiência do processamento de dados.

  Pontos fracos

  O suporte atual de software é fraco, representando uma restrição fundamental à adoção.

  Comparação

  Em comparação com o modelo tradicional de separação entre processadores e memória, seu objetivo é realizar mais computação próximo de onde os dados residem.

  Riscos

  Se o ecossistema de software não amadurecer em paralelo, as soluções de hardware podem ser difíceis de implantar em escala.

Dados principais

• Área de Die da HBM em Relação à DDR3XO relatório afirma que a HBM ocupa aproximadamente três vezes a área de die da DDR e, portanto, consome mais capacidade de wafers.
• Período de Estagnação da Produção de Wafers de DRAM>10 yearsO relatório afirma que a produção de wafers de DRAM permaneceu essencialmente estagnada por mais de 10 anos.
• Ciclo de Instalação de Capacidade Adicional>2 yearsA nova capacidade leva mais de 2 anos desde a construção até a instalação, dificultando que a oferta responda rapidamente à demanda.
• Receita de Memória$200O título do relatório descreve isso como um nível recorde, mas o conteúdo fornecido não especifica a unidade.
• Fonte do Crescimento da ReceitaPrincipalmente dos preçosO relatório acredita que o crescimento é impulsionado principalmente pela precificação, e não apenas pelo crescimento dos embarques.
• Faixa de Recursos de InferênciaMicrocontroladores a data centers de hiperescalaA inferência de menor porte pode ser processada por microcontroladores, enquanto os modelos de linguagem de grande porte ainda exigem recursos de data center do mais alto nível.

Impacto e implicações

O relatório acredita que o maior consumo de wafers pela HBM transmite a demanda por IA à oferta e aos preços gerais de DRAM, tornando o atual crescimento da receita de memória mais dependente da precificação. À medida que as cargas de trabalho de IA se expandem para a inferência, o mercado exigirá tanto soluções de endpoint de baixo custo quanto soluções de data center de alto nível. Melhorias algorítmicas e computação em memória ou próxima à memória podem reduzir o tráfego de dados, mas seu impacto efetivo dependerá de o ecossistema de software conseguir fechar as lacunas existentes.

Riscos

• Melhorias algorítmicas contínuas podem reduzir gradualmente o atualmente pronunciado problema de movimentação de dados, alterando assim a demanda de longo prazo por memória de alta largura de banda.
• O suporte de software para computação em memória ou próxima à memória é atualmente fraco, restringindo a adoção tecnológica.
• A instalação de capacidade adicional de DRAM leva mais de 2 anos, e a lenta resposta da oferta pode prolongar a escassez.

Pontos a observar

• Monitorar mudanças nos requisitos de memória e largura de banda entre as faixas de dispositivos à medida que as cargas de trabalho de IA passam do treinamento para a inferência.
• Monitorar os desenvolvimentos na adição de funções lógicas aos dies base de HBM, na memória customizada e na computação em memória ou próxima à memória.
• Monitorar se as cadeias de ferramentas de software relevantes melhoram o suficiente para remover gargalos de adoção de novas arquiteturas de memória.
• Monitorar se a otimização algorítmica reduz materialmente os requisitos de movimentação de dados.
• Monitorar o progresso de instalação de capacidade adicional de DRAM e seu ciclo de liberação de oferta superior a 2 anos.