Semiconductors and AI infrastructure — Interpretação do relatório

Visão geral

Este relatório da conferência Hot Chips 2026 argumenta que a inferência de IA agêntica se tornou o principal imperativo de design na indústria de semicondutores, ampliando a oportunidade de infraestrutura de IA além de aceleradores focados em treinamento. A JPMorgan permanece construtiva quanto à expansão plurianual e identifica beneficiários em computação, ASICs customizados, memória e redes.

Visões principais

A conclusão central da JPMorgan após a Hot Chips 2026 é que a inferência de IA agêntica substituiu a otimização para treinamento como o principal foco do design de chips. Cargas de trabalho multi-turn, contextos mais longos, modelos mixture-of-experts, gestão de cache KV e execução multi-chip de baixa latência tornam a inferência cada vez mais dominada por decodificação e limitada pela largura de banda da memória, e não principalmente por FLOPS de pico. A SambaNova quantificou que 75–97% dos ciclos de computação em diversos modelos de fronteira são dominados por decodificação; o relatório considera isso evidência de que a utilização da largura de banda da memória está se tornando a restrição do throughput de inferência. O TPU v8i de inferência do Google aloca mais SRAM on-chip para latência de MoE, enquanto o Crescent Island da Intel usa LPDDR5x para enfatizar capacidade de memória. A OpenAI também apresentou latência, tokens por joule e energia por solicitação, em vez de FLOPS de pico. Assim, a JPMorgan espera uma bifurcação crescente entre silício otimizado para treinamento, focado em computação de pico e grande largura de banda scale-up, e silício otimizado para inferência, que enfatiza capacidade, SRAM e fabrics multi-chip de baixa latência. A proliferação de silício customizado é o segundo tema principal. O Jalapeno da OpenAI, seu primeiro ASIC interno para inferência desenvolvido em parceria com a Broadcom, foi apresentado como tendo avançado do RTL inicial ao tapeout em cerca de9 meses por meio de codesevolvimento de hardware e software acelerado por IA. A JPMorgan espera que programas sucessores e projetos adjacentes mantenham cadência rápida. O relatório cita Jalapeno, Google TPU, Meta MTIA, Microsoft MAIA, SN50 RDU da SambaNova e Crescent Island da Intel como evidência da expansão contínua de silício interno. Contudo, não considera que ASICs desloquem GPUs comerciais: chips customizados atendem cargas de trabalho específicas em escala, nas quais o cliente pode justificar NRE, enquanto GPUs Nvidia e AMD continuam como plataforma fungível para o ecossistema mais amplo. Segundo estimativas da JPMorgan, GPUs comerciais detêm atualmente mais de85% do TAM de aceleradores de IA, mas a participação entre GPUs comerciais e XPU/ASIC customizados deverá tender à paridade nos próximos anos. O plano público da OpenAI de implantar aproximadamente12GW acumulados de infraestrutura Nvidia até 2030 é citado como evidência de coexistência entre capacidade customizada e comercial. A série Instinct MI400 e o rack Helios reforçaram a credibilidade da resposta competitiva da AMD à Vera Rubin da Nvidia. A arquitetura de referência Helios fornece2.9 exaflops de computação de IA e31TB de memória HBM4 em72 GPUs por rack, igualando a configuração de72-GPU por rack citada para a Vera Rubin. A JPMorgan destaca a arquitetura chiplet da MI455X e seu perfil superior de capacidade e largura de banda HBM4 para inferência MoE e cargas de trabalho agênticas de contexto longo. A UALink128 é apresentada como alternativa scale-up de padrão aberto à NVLink, e o Helios integra GPU, CPU, DPU e AI NICs de800G em uma pilha verticalmente integrada. Dada a visão de rápida expansão da inferência, a instituição vê a AMD bem posicionada para ganhar participação em computação de IA, a partir de uma base baixa, especialmente em inferência, embora o relatório não traga classificação da empresa. Redes estão se tornando uma parte mais ampla e diferenciada da infraestrutura de IA. A Nvidia introduziu a categoria “Scale-In Network” por meio do BlueField-4 para conectar cargas de trabalho de GPU a armazenamento, CPUs que executam agentes, orquestração e segurança, entre as camadas NVLink scale-up e Spectrum-X Ethernet scale-out. A JPMorgan vê nisso uma expansão da pilha de redes da Nvidia para scale-up, scale-out, scale-across e scale-in. O Thor Ultra 800G Ethernet NIC da Broadcom, com Enhanced RoCE para enfrentar confiabilidade, controle de congestionamento e multipathing em clusters de IA, apoia a visão de que a Ethernet está ganhando importância nos fabrics de IA scale-out e scale-across. A instituição vê redes de IA como um TAM em rápida expansão, no qual Broadcom e Nvidia avançam com soluções verticalmente integradas, com benefícios para Marvell, Astera Labs e MTSI conforme crescem o tamanho dos clusters e as exigências de largura de banda. A Broadcom é beneficiária transversal na análise da JPMorgan devido à participação em Google TPU, OpenAI Jalapeno, Meta MTIA, SambaNova RDU e redes Ethernet. O relatório entende que isso amplia o papel da Broadcom tanto em silício customizado de computação de IA quanto em redes de infraestrutura de IA. A oferta de HBM é a restrição comum crucial: todos os principais roadmaps citados dependem de HBM3E, HBM4 ou HBM4E, reforçando a expectativa de aperto prolongado na memória. A Diamond Rapids Xeon e a GPU de inferência Crescent Island da Intel mostram progresso arquitetônico, segundo a JPMorgan, mas o relatório mantém elevado o risco de execução. A Diamond Rapids, com 3D Mesh e design desagregado, é enquadrada em torno de movimentação, processamento e proteção de dados em hiperescala. A Crescent Island é voltada à inferência agêntica, com480GB de LPDDR5x, TDP de350W e aceleração on-chip de decodificação especulativa MoE. O impacto competitivo final depende da execução e dos sinais de comprometimento dos clientes até 2027.

Estrutura de análise

A JPMorgan sintetiza apresentações da conferência para identificar mudanças nas características das cargas de trabalho de IA e conectá-las à arquitetura de chips, demanda de memória, economia do silício customizado e design de redes. A instituição compara especificações divulgadas de sistemas e escolhas de design entre fornecedores para avaliar beneficiários potenciais e restrições de execução.

Notas metodológicas

• Marco de análise setorialMarco de oferta e demanda

  Restrição de oferta e demanda de HBM

  O relatório trata a dependência de HBM3E, HBM4 e HBM4E nos principais roadmaps de IA como evidência de que a oferta de memória continua limitando a implantação de silício para IA.

• Marco de análise setorialTransmissão entre elos da cadeia de valor

  Transmissão de mudanças nas cargas de trabalho de IA para componentes de computação, memória e redes

  O relatório conecta requisitos de cargas de trabalho de inferência agêntica à arquitetura de aceleradores, à demanda por HBM, a fabrics de interconexão, NICs, componentes ópticos e fornecedores de semicondutores relacionados.

Mapeamento e comparação de ativos

Mapeamento estruturado da tese para ativos nomeados (pontos fortes, pontos fracos, pares e riscos).

• Broadcom (AVGO)

  Beneficiária do desenvolvimento de ASICs de IA customizados e de redes de IA baseadas em Ethernet.

  Pontos fortes

  Citada por seu envolvimento em Google TPU, OpenAI Jalapeno, Meta MTIA, SambaNova RDU e Thor Ultra Ethernet NIC.

  Comparação

  Posicionada ao lado da Nvidia como uma incumbente líder de redes de IA verticalmente integrada.

  Riscos

  Restrições de HBM podem limitar o ritmo de implantação de silício para IA.

• NVIDIA (NVDA)

  Beneficiária de GPUs comerciais e de redes full-stack.

  Pontos fortes

  NVLink, Spectrum-X e BlueField-4 abrangem redes scale-up, scale-out, scale-across e scale-in.

  Pontos fracos

  Espera-se que o silício customizado eleve sua participação no TAM de aceleradores de IA ao longo do tempo.

  Comparação

  O Helios da AMD é posicionado como uma alternativa de sistema completo que iguala a configuração de 72-GPU por rack citada para a Nvidia.

  Riscos

  Expansão de ASICs customizados e aperto na oferta de HBM.

• AMD (AMD)

  Potencial ganhadora de participação em computação de IA, especialmente em inferência.

  Pontos fortes

  MI400/Helios combina HBM4, UALink128 e recursos integrados de GPU, CPU, DPU e AI NIC.

  Pontos fracos

  O relatório descreve o ganho de participação partindo de uma base baixa.

  Comparação

  Apresentada como uma resposta competitiva à Vera Rubin da Nvidia e ao ecossistema NVLink.

  Riscos

  O resultado competitivo depende da execução e da adoção do ecossistema.

• Marvell Technology (MRVL)

  Beneficiária da expansão das redes de IA scale-out e da demanda por ASICs customizados.

  Pontos fortes

  Citada por silício scale-out customizado, DCI/DSPs, óptica coerente e sua parceria em Microsoft MAIA ASIC.

  Comparação

  Beneficia-se da adoção de Ethernet junto com a Broadcom.

• Astera Labs (ALAB)

  Beneficiária de maiores requisitos de conectividade de clusters.

  Pontos fortes

  Citada por fabric de conectividade e retimers PCIe/CXL.

  Comparação

  Parte do ecossistema mais amplo de redes, e não uma incumbente de NIC/DPU comercial.

• MTSI

  Beneficiária do crescimento das necessidades de largura de banda dos clusters de IA.

  Pontos fortes

  Citada por lasers de alta velocidade e componentes ópticos.

  Comparação

  Participa do ecossistema mais amplo de redes que suporta clusters maiores.

• Micron Technology (MU)

  Beneficiária da demanda sustentada por HBM.

  Pontos fortes

  HBM continua sendo uma exigência crítica de oferta nos principais roadmaps de silício para IA.

• SanDisk (SNDK)

  Nomeada pela JPMorgan como beneficiária da expansão da infraestrutura de IA.

Dados principais

• Ciclos de computação dominados por decodificação75–97%Participação declarada pela SambaNova nos modelos de fronteira citados.
• Ciclo de desenvolvimento do OpenAI Jalapeno~9 monthsDo RTL inicial ao tapeout, segundo a apresentação.
• Participação das GPUs comerciais no TAM de aceleradores de IA>85%Participação atual citada pela JPMorgan; o relatório espera que a composição com XPU/ASIC customizados tenda à paridade nos próximos anos.
• Computação de IA do AMD Helios2.9 exaflopsEm72 GPUs por rack.
• Memória HBM4 do AMD Helios31TBCapacidade de memória em nível de rack citada para a arquitetura de referência Helios.
• Memória e potência do Intel Crescent Island480GB LPDDR5x; 350W TDPEspecificações destacadas para sua GPU orientada à inferência agêntica.

Impacto e implicações

A JPMorgan considera que a mudança para inferência agêntica amplia a demanda de semicondutores para além dos aceleradores focados em treinamento, alcançando ASICs customizados, memória, interfaces de rede, conectividade e componentes ópticos. A instituição identifica AVGO, NVDA, AMD, MRVL, MTSI, ALAB, MU e SNDK como beneficiários-chave da expansão contínua da infraestrutura de IA.

Riscos

• O aperto na oferta de HBM pode limitar a disponibilidade e a implantação de silício para IA.
• O impacto competitivo da Intel depende da execução do roadmap e dos compromissos dos clientes até 2027.

Pontos a observar

• O ritmo das implantações de XPU e ASICs customizados em relação à demanda por GPUs comerciais.
• A disponibilidade de HBM3E, HBM4 e HBM4E nos próximos roadmaps de silício para IA.
• A execução da AMD no MI400 e Helios, a adoção da UALink e os ganhos de participação em inferência.
• A adoção adicional de Ethernet e Enhanced RoCE em redes de IA scale-out e scale-across.