Semicondutores—Memória de Alta Largura de Banda e Encapsulamento Avançado: A HBM está evoluindo para pilhas mais altas, interfaces mais amplas e resfriamento mais robusto, com o encapsulamento avançado se tornando uma restrição central para HBM4 e produtos subsequentes

Visão geral

Este é um relatório tecnológico do setor focado na SK hynix e na tecnologia avançada de encapsulamento HBM. Primeiro, explica por que a HBM é adequada para IA generativa e aceleradores, depois compara capacidade, largura de banda e parâmetros de encapsulamento entre gerações de HBM, antes de detalhar o processo de fabricação da SK hynix, os roteiros de MR-MUF e ligação híbrida, e discutir os desafios de gerenciamento térmico, fornecimento de energia e confiabilidade em pilhas mais altas.

Visões principais

O relatório primeiro explica a origem do desempenho da HBM por meio de sua arquitetura. A HBM utiliza TSVs para construir uma pilha 3D composta por um die de base e até 16 dies de núcleo; uma estrutura 16Hi corresponde a 4 camadas por rank e 4 ranks no total, com cada camada contendo 4 canais e 16 bancos. A HBM e a GPU são instaladas em um encapsulamento 2.5D por meio de um interposer de silício e se comunicam por 1024 I/Os e 16 canais. Essa interface ampla e interconexão de curta distância suportam o processamento paralelo por GPUs ou aceleradores e atendem aos requisitos massivos de acesso a dados e parâmetros da IA generativa, ao mesmo tempo que reduzem as cargas de energia e resfriamento dos data centers. O relatório usa configurações de sistema GDDR6 e HBM3E para ilustrar as vantagens da HBM em espaço, capacidade e largura de banda: 12 dispositivos GDDR6 fornecem capacidade combinada de 24GB e largura de banda de 768GB/s, enquanto 4 dispositivos HBM3E fornecem capacidade combinada de 144GB e largura de banda de 4TB/s. Portanto, o relatório acredita que aumentar a adoção de HBM pode economizar espaço em nível de placa, consumo de energia e custos operacionais, ao mesmo tempo que melhora capacidade, largura de banda e eficiência energética. Os dados geracionais ilustram ainda mais a trajetória de atualização da HBM. A tabela do relatório lista densidades de capacidade de 16Gb, 16Gb, 24Gb e 24Gb para HBM2E, HBM3, HBM3E e HBM4, respectivamente, com capacidades por encapsulamento de 16GB, 24GB, 36GB e 36GB. A contagem total de I/O é 1024 para as três primeiras gerações e sobe para 2048 para a HBM4. As velocidades de I/O são 3.6Gbps, 5.6Gbps, 8Gbps e 8Gbps, respectivamente, enquanto as larguras de banda máximas são 460GB/s, 717GB/s, 1024GB/s e 2048GB/s. As dimensões do encapsulamento expandem de 10×11mm² para HBM2E e 11×11mm² para HBM3 e HBM3E para 12.4×11mm² para HBM4, mostrando que maior largura de banda é acompanhada por aumentos na contagem de interfaces, TSVs, microbumps e área do encapsulamento. O relatório fornece métricas adicionais da HBM4, incluindo largura de banda acima de 2TB/s, resistência térmica melhorada em mais de 14% versus HBM3E, capacidade de até 48GB, altura de 775μm, dimensões de 12.8×11mm², 16148 microbumps de base e mais de 20K TSVs. Em termos de progresso de capacidade, 12Hi já está em produção, enquanto 16Hi está na fase de qualificação. O texto-fonte também declara “40+% lower power efficiency” sem esclarecer adicionalmente a base estatística específica. Portanto, esse item deve ser compreendido conforme a redação original como uma redução de mais de 40% em uma métrica relacionada à energia, em vez de ser reescrito independentemente como outra métrica. Em termos de processos de encapsulamento, o relatório compara as abordagens TC+NCF e MR+MUF. TC+NCF utiliza ligação por termocompressão e filme não condutivo e é relativamente insensível ao empenamento de dies finos, mas a ligação die a die resulta em menor produtividade e maior resistência térmica. MR+MUF utiliza refluxo em massa e underfill moldado, oferecendo alta produtividade e baixa resistência térmica, mas é mais sensível ao empenamento dos dies e ao preenchimento de lacunas estreitas. O processo da SK hynix começa com wafers de base e de núcleo, testes de wafer, encapsulamento em nível de wafer e testes KGSD, seguidos por singulação e inspeção em seis lados para formar o HBM Cube, que então entra na montagem e teste SiP de OSAT antes da entrega final ao sistema do cliente fabless. O relatório identifica a formação de TSV, fabricação de microbumps, afinamento de wafer e empilhamento de dies e underfill como tecnologias-chave de encapsulamento HBM. A corrosão de TSV, deposição de liner e barreira, e preenchimento de cobre de alta razão de aspecto exigem controle de zonas de exclusão, integridade do dielétrico entre camadas e contaminação por cobre. A eletrodeposição de microbumps deve tratar uniformidade, rendimento e confiabilidade mecânica e térmica. Ligação temporária, descolagem, afinamento e revelação de TSV envolvem variação total de espessura, resíduos de adesivo, produtividade e passivação traseira. Empilhamento e MUF enfrentam questões envolvendo manuseio de dies finos, empenamento, vazios, adesivos e confiabilidade das junções. A janela de processo se estreita ainda mais na atualização de 12Hi para 16Hi. O relatório mostra que a altura total do encapsulamento sobe de 720μm para 775μm, a espessura do die diminui de um valor relativo de 1.0x para 0.9x, a altura da lacuna entre camadas é reduzida pela metade de 1.0x para 0.5x, e o passo dos bumps se estreita de 1.0x para 0.9x. Portanto, 16Hi não apenas aumenta o número de camadas, como também requer controle mais robusto de empenamento, interconexões mais finas e preenchimento de lacunas estreitas mais confiável. O relatório afirma que a SK hynix desenvolveu com sucesso um produto HBM3E 16Hi de 48GB/Cube usando tecnologia MR-MUF avançada. Para pilhas mais altas, o relatório vê a ligação híbrida como uma tecnologia candidata de próxima geração. O processo obtém conexões Cu-Cu por meio de pick-and-place à temperatura ambiente, ligação SiO₂-SiO₂ e recozimento acima de 200°C. Quando a altura total do encapsulamento é limitada, a ligação híbrida pode preservar maior espessura para os dies de núcleo e utilizar passos de interconexão mais estreitos e maior condutividade térmica para suportar a capacidade, desempenho e eficiência térmica de pilhas de 20Hi e mais altas. O relatório enfatiza que, à medida que o número de camadas empilhadas aumenta, a importância da ligação híbrida para melhorar o caminho térmico se torna mais pronunciada. Quanto ao gerenciamento térmico, o relatório lista as abordagens tecnológicas de diferentes empresas. A solução iHBM da SK hynix incorpora componentes de resfriamento altamente condutores termicamente e isolantes eletricamente nas regiões de hotspot D2D PHY da HBM, criando caminhos dedicados de dissipação de calor. A tabela lista efeitos que incluem redução de resistência térmica superior a 30%, redução de temperatura de aproximadamente 30%, melhoria de 16% na impedância térmica e melhoria de eficiência energética superior a 20%. A solução da Samsung Electronics combina resfriamento HPB com ligação híbrida de cobre, movendo a DRAM para o lado do processador e posicionando um componente de dissipação de calor de cobre diretamente acima do núcleo do processador para reduzir a resistência térmica. A Micron Technology busca equilibrar resfriamento e desempenho por meio de melhorias no projeto de circuitos internos e de um die de base aprimorado. Para HBM4 e produtos subsequentes, o relatório identifica largura de banda e consumo de energia como os dois principais desafios de sistema. Os caminhos para maior largura de banda incluem expandir I/O de dados, aumentar a velocidade por I/O, dobrar o número de TSVs e otimizar o die de base por meio da integração de processo lógico. Quanto ao consumo de energia e à rede de fornecimento de energia, otimizar o processo de foundry lógica pode melhorar significativamente a eficiência energética, enquanto distribuir TSVs de energia mais amplamente por toda a pilha pode melhorar significativamente a rede de fornecimento de energia. Ao mesmo tempo, maior largura de banda e potência também elevam a pressão sobre o gerenciamento térmico e o uso de área de TSV, exigindo otimização conjunta entre desempenho, consumo de energia, área e confiabilidade. Por fim, o relatório considera as mudanças na sequência de montagem da HBM dentro do encapsulamento avançado de IA uma fonte de risco em nível de sistema. Nos sistemas tradicionais, a memória geralmente é montada durante estágios posteriores de integração. Em vez disso, o encapsulamento avançado de IA integra a HBM em um estágio anterior, fazendo com que ela suporte continuamente o estresse do interposer e da estrutura do encapsulamento durante processos subsequentes e criando desafios significativos de confiabilidade. Portanto, o relatório estende a direção futura das conexões entre encapsulamentos em nível de placa para interconexão 2.5D de dies em interposers de silício e, posteriormente, para empilhamento 3D de dies. O encapsulamento avançado não é mais apenas um suporte para HBM, mas um componente central que determina sua largura de banda, resfriamento, fornecimento de energia e confiabilidade.

Estrutura de análise

O relatório segue uma sequência analítica da demanda à arquitetura, das gerações de produtos aos processos de fabricação, e então dos dispositivos individuais ao encapsulamento de sistema. Primeiro, utiliza IA generativa e computação paralela por GPU para explicar a demanda por alta largura de banda, alta capacidade e alta eficiência energética; em seguida, quantifica a evolução do desempenho por comparações entre GDDR6 e HBM e entre HBM2E e HBM4. Posteriormente, detalha o processo de encapsulamento da SK hynix e as soluções TC+NCF, MR+MUF e de ligação híbrida, utilizando resistência térmica, empenamento, passo de interconexão, contagem de TSV e rede de fornecimento de energia para analisar as restrições de engenharia enfrentadas por pilhas mais altas.

Notas metodológicas

• Estrutura de Análise de Indústria/SetorTransmissão da Cadeia Industrial Upstream-Midstream-Downstream

  Análise do Processo de Fabricação de HBM e Integração de Sistema

  O relatório analisa progressivamente a fabricação de wafers, testes, processamento de bumps e TSVs, KGSD, empilhamento de dies, formação do HBM Cube, montagem e testes SiP de OSAT e sistemas de clientes fabless, explicando como questões de processo front-end se transmitem para o rendimento do encapsulamento, desempenho térmico e confiabilidade do sistema.

• Estrutura de Concorrência e EstratégiaCiclo de Vida do Produto

  Roteiro Geracional de HBM

  O relatório compara capacidade, contagem de I/O, velocidade, largura de banda e dimensões de HBM2E, HBM3, HBM3E e HBM4, usando mudanças geracionais de produtos para identificar os novos requisitos impostos às tecnologias de encapsulamento e interconexão na próxima etapa.

• Estrutura de Análise de Indústria/SetorAnálise do Efeito de Substituição

  Comparação de Configurações HBM e GDDR6

  Ao comparar a contagem de dispositivos, capacidade total e largura de banda total no mesmo nível de sistema, o relatório ilustra as vantagens estruturais da HBM sobre GDDR6 em utilização de espaço, capacidade e largura de banda.

• Estrutura de Análise de Indústria/SetorOutro

  Análise de Processo de Encapsulamento e Restrições Termomecânicas

  O relatório compara a produtividade, resistência térmica, sensibilidade ao empenamento e capacidades de preenchimento de lacunas de diferentes processos de ligação e underfill, e avalia a fabricabilidade de pilhas 16Hi e mais altas com base em altura da pilha, espessura do die, passo de bump e área de TSV.

Mapeamento e comparação de ativos

Mapeamento estruturado da tese para ativos nomeados (pontos fortes, pontos fracos, pares e riscos).

• SK hynix

  Tema do relatório e fornecedora de tecnologia avançada de encapsulamento HBM, apresentando MR-MUF, HBM3E 16Hi e a solução de resfriamento iHBM.

  Pontos fortes

  MR-MUF oferece produtividade relativamente alta e baixa resistência térmica. O relatório afirma que um produto HBM3E 16Hi de 48GB/Cube foi desenvolvido com sucesso, enquanto a solução iHBM fornece melhorias quantificadas em resistência térmica, temperatura e eficiência energética.

  Pontos fracos

  MR-MUF é sensível ao empenamento dos dies e ao preenchimento de lacunas estreitas, enquanto pilhas mais altas também devem lidar com manuseio de dies finos, vazios e confiabilidade das junções.

  Comparação

  Entre as soluções de gerenciamento térmico de três empresas listadas no relatório, a SK hynix utiliza componentes de resfriamento incorporados, altamente condutores termicamente e isolantes eletricamente, e fornece resultados quantificados, incluindo redução de resistência térmica superior a 30%.

  Riscos

  16Hi e produtos subsequentes enfrentam desafios envolvendo empenamento, preenchimento de micro lacunas, gerenciamento térmico, área de TSV, redes de fornecimento de energia e estresse do encapsulamento do sistema.

• Samsung Electronics

  Um alvo de comparação para a tecnologia de gerenciamento térmico HBM listado no relatório.

  Pontos fortes

  Utiliza resfriamento HPB e ligação híbrida de cobre, reduzindo a resistência térmica ao mover a DRAM para o lado do processador e posicionar um componente de dissipação de calor de cobre acima do núcleo do processador.

  Comparação

  Diferentemente do caminho interno localizado de dissipação de calor da HBM da SK hynix, esta solução se concentra em ajustar a estrutura da pilha de dies e usar um componente de dissipação de calor de cobre acima do processador.

• Micron Technology

  Um alvo de comparação para a tecnologia de gerenciamento térmico HBM listado no relatório.

  Pontos fortes

  Melhora o desempenho enquanto aprimora a dissipação de calor por meio de melhorias no projeto de circuitos internos e otimização do die de base.

  Comparação

  Em comparação com os componentes de resfriamento incorporados da SK hynix e a solução estrutural e de resfriamento de cobre da Samsung Electronics, esta abordagem se concentra mais na otimização de circuitos e do die de base.

Dados principais

• Configuração de Sistema GDDR6GDDR6 ×12; capacidade total 24GB; largura de banda total 768GB/sUsada para comparação com a configuração HBM3E
• Configuração de Sistema HBM3EHBM3E ×4; capacidade total 144GB; largura de banda total 4TB/sO relatório usa isto para ilustrar as vantagens da HBM em espaço, capacidade e largura de banda
• Largura de Banda Máxima HBM2E460GB/s1024 I/Os, velocidade de I/O de 3.6Gbps, dimensões de encapsulamento de 10×11mm²
• Largura de Banda Máxima HBM3717GB/s1024 I/Os, velocidade de I/O de 5.6Gbps, dimensões de encapsulamento de 11×11mm²
• Largura de Banda Máxima HBM3E1024GB/s1024 I/Os, velocidade de I/O de 8Gbps, dimensões de encapsulamento de 11×11mm²
• Largura de Banda Máxima HBM42048GB/s2048 I/Os, velocidade de I/O de 8Gbps, dimensões de encapsulamento de 12.4×11mm²
• Desempenho Adicional da HBM4>2TB/s de largura de banda; resistência térmica melhorada em mais de 14% versus HBM3EO relatório lista separadamente uma redução superior a 40% em uma métrica relacionada à energia; a redação original é “40+% lower power efficiency”
• Parâmetros de Encapsulamento HBM4Até 48GB; 775μm; 12.8×11mm²; 16148 microbumps de base; >20K TSVs12Hi está em produção, enquanto 16Hi está na fase de qualificação
• Altura Total do Encapsulamento de 12Hi para 16Hi720μm → 775μmA pilha mais alta cria maiores requisitos de altura e controle mais rigoroso de empenamento
• Lacuna entre Camadas de 12Hi para 16Hi1.0x → 0.5xA lacuna é reduzida pela metade, aumentando a dificuldade do preenchimento de lacunas estreitas
• Espessura do Die e Passo de Bump de 12Hi para 16HiEspessura do die 1.0x → 0.9x; passo de bump 1.0x → 0.9xAumentam os desafios de manuseio de dies finos, empenamento e interconexões finas
• Efeitos de Resfriamento iHBM da SK hynixResistência térmica reduzida em >30%; temperatura reduzida em aproximadamente 30%; impedância térmica melhorada em 16%; eficiência energética melhorada em >20%Obtido por meio da incorporação de componentes de resfriamento altamente condutores termicamente e isolantes eletricamente em regiões de hotspot D2D PHY

Impacto e implicações

O relatório acredita que a demanda por capacidade, largura de banda e eficiência energética impulsionada pela IA generativa fará a HBM continuar evoluindo para mais camadas empilhadas, I/O mais amplo e dies de base mais complexos. Consequentemente, o foco da concorrência não se limita ao desempenho dos dies de memória, mas também inclui capacidades de MR-MUF ou ligação híbrida, resfriamento de hotspots, layout de TSVs de energia, controle de empenamento e confiabilidade quando HBM e o interposer suportam conjuntamente o estresse do sistema.

Riscos

• A ligação die a die do TC+NCF resulta em menor produtividade e maior resistência térmica.
• MR+MUF é sensível ao empenamento dos dies e ao preenchimento de lacunas estreitas.
• A formação de TSV envolve questões relacionadas a zonas de exclusão, integridade do dielétrico entre camadas e contaminação por cobre.
• A eletrodeposição de microbumps exige controle de uniformidade de processo, rendimento e confiabilidade mecânica e térmica.
• O afinamento de wafer envolve riscos relacionados a variação total de espessura, resíduos de adesivo, produtividade e passivação traseira.
• O empilhamento de dies e MUF envolvem questões relacionadas a manuseio de dies finos, empenamento, vazios, adesivos e confiabilidade das junções.
• O aumento da largura de banda e da potência da HBM elevará simultaneamente a pressão sobre o gerenciamento térmico e o uso de área de TSV.
• A HBM é montada em um estágio anterior do encapsulamento avançado de IA, e o estresse dos processos subsequentes criará desafios significativos de confiabilidade do sistema.

Pontos a observar

• Monitorar a progressão da HBM3E 16Hi da fase de qualificação para a produção subsequente.
• Monitorar se a ligação híbrida pode suportar pilhas de 20Hi e mais altas, interconexões de passo estreito e maior eficiência térmica.
• Monitorar o progresso no aumento da largura de banda de HBM4 e produtos subsequentes por meio da expansão de I/O de dados, aumento da velocidade de I/O e elevação do número de TSVs.
• Monitorar os efeitos de dies de base lógica e TSVs de energia amplamente distribuídos sobre a eficiência energética e as redes de fornecimento de energia.
• Monitorar o controle térmico e de confiabilidade à medida que o encapsulamento avançado evolui da interconexão 2.5D por interposer de silício para o empilhamento 3D de dies.