Semiconductors and AI infrastructure — Interpretación del informe

Visión general

Este informe de la conferencia Hot Chips 2026 sostiene que la inferencia de IA agéntica se ha convertido en el imperativo central de diseño en semiconductores y amplía la oportunidad de infraestructura de IA más allá de los aceleradores centrados en entrenamiento. JPMorgan mantiene una visión constructiva sobre la expansión plurianual e identifica beneficiarios en cómputo, ASIC personalizados, memoria y redes.

Perspectivas principales

La conclusión central de JPMorgan tras Hot Chips 2026 es que la inferencia de IA agéntica ha desplazado la optimización para entrenamiento como principal foco del diseño de chips. Las cargas de trabajo multivuelta, los contextos más largos, las arquitecturas mixture-of-experts, la gestión de caché KV y la ejecución multichip de baja latencia hacen que la inferencia sea cada vez más dominada por decodificación y limitada por ancho de banda de memoria, en lugar de depender principalmente de FLOPS máximos. SambaNova cuantificó que 75–97% de los ciclos de cómputo en varios modelos de frontera están dominados por decodificación; el informe lo considera evidencia de que la utilización del ancho de banda de memoria se está convirtiendo en la restricción del rendimiento de inferencia. El TPU v8i orientado a inferencia de Google asigna más SRAM en chip para la latencia de MoE, mientras que Crescent Island de Intel usa LPDDR5x para enfatizar la capacidad de memoria. OpenAI también presentó latencia, tokens por julio y energía por solicitud, en lugar de FLOPS máximos. JPMorgan espera por tanto una división creciente entre silicio optimizado para entrenamiento, centrado en cómputo máximo y gran ancho de banda de interconexión scale-up, y diseños optimizados para inferencia, que enfatizan capacidad, SRAM y fabrics de baja latencia. El silicio personalizado es el segundo tema principal. Jalapeno de OpenAI, su primer ASIC interno para inferencia desarrollado con Broadcom, se presentó como capaz de avanzar desde el RTL inicial hasta el tapeout en aproximadamente 9 meses mediante codiseño de hardware y software acelerado por IA. JPMorgan espera que los programas sucesores y proyectos de silicio adyacentes sigan una cadencia rápida. Sitúa a Jalapeno junto a Google TPU, Meta MTIA, Microsoft MAIA, SN50 RDU de SambaNova y Crescent Island de Intel como evidencia de una expansión continua del silicio interno. Sin embargo, el informe no considera que los ASIC desplacen a las GPU comerciales: los diseños personalizados se ajustan a cargas de trabajo escaladas y bien definidas para las que el cliente puede justificar la ingeniería no recurrente, mientras que las plataformas de Nvidia y AMD siguen siendo opciones fungibles para el ecosistema más amplio. JPMorgan señala que las GPU comerciales representan actualmente más de 85% del TAM de aceleradores de IA, según sus estimaciones, pero espera que la mezcla entre GPU comerciales y XPU/ASIC personalizados tienda hacia la paridad en los próximos años. También menciona el plan declarado de OpenAI de desplegar aproximadamente12GW acumulados de infraestructura Nvidia hasta 2030 como evidencia de que la capacidad personalizada y la comercial pueden coexistir. Las series Instinct MI400 y el rack Helios de AMD se consideraron una respuesta competitiva más creíble frente a Vera Rubin de Nvidia. La arquitectura de referencia Helios ofrece2.9 exaflops de cómputo de IA y31TB de memoria HBM4 en72 GPU por rack, igualando la configuración citada de72-GPU por rack de Vera Rubin. JPMorgan destaca la arquitectura chiplet de MI455X y su perfil superior de capacidad y ancho de banda HBM4 para inferencia MoE y cargas de trabajo agénticas de contexto largo. UALink128 se presenta como una alternativa de scale-up de estándar abierto a NVLink, mientras que Helios integra GPU, CPU, DPU y AI NIC de800G en una pila con integración vertical. Dado que el informe considera que la demanda de inferencia crece rápidamente, ve a AMD bien posicionada para ganar cuota de cómputo de IA desde una base baja, en particular en inferencia, aunque no proporciona una calificación de la empresa en este informe. Las redes se están convirtiendo en una parte más amplia y diferenciada de la infraestructura de IA. Nvidia introdujo la categoría “Scale-In Network” con BlueField-4 para conectar cargas de trabajo de GPU con almacenamiento, CPU que ejecutan agentes, orquestación y seguridad, situada entre NVLink scale-up y Spectrum-X Ethernet scale-out. JPMorgan considera que esto amplía la pila de redes de Nvidia a scale-up, scale-out, scale-across y scale-in. Thor Ultra 800G Ethernet NIC de Broadcom, con funciones Enhanced RoCE para abordar fiabilidad, control de congestión y multipath en clústeres de IA, respalda la opinión de que Ethernet gana importancia en fabrics scale-out y scale-across. La firma considera que las redes de IA son un TAM de rápido crecimiento en el que Broadcom y Nvidia avanzan con soluciones integradas verticalmente, con beneficios indirectos para Marvell, Astera Labs y MTSI a medida que aumentan el tamaño de los clústeres y las necesidades de ancho de banda. Broadcom es un beneficiario transversal en el análisis de JPMorgan por su participación en Google TPU, OpenAI Jalapeno, Meta MTIA, SambaNova RDU y redes Ethernet. El informe considera que esto amplía el papel de Broadcom tanto en silicio de cómputo de IA personalizado como en redes de infraestructura de IA. El suministro de HBM es la restricción común clave: todas las hojas de ruta principales citadas dependen de HBM3E, HBM4 o HBM4E, lo que refuerza la expectativa de JPMorgan de una prolongada estrechez de memoria. Diamond Rapids Xeon y la GPU de inferencia Crescent Island de Intel muestran progreso arquitectónico, según JPMorgan, pero el informe mantiene elevado el riesgo de ejecución. El 3D Mesh y el diseño desagregado de Diamond Rapids se enfocan en movimiento, procesamiento y protección de datos a hiperescala. Crescent Island está orientada a la inferencia agéntica con480GB de LPDDR5x, un TDP de350W y aceleración en chip para decodificación especulativa MoE. El informe considera que el impacto competitivo final depende de la ejecución de la hoja de ruta y de las señales de compromiso de clientes hacia 2027.

Marco de análisis

JPMorgan sintetiza las presentaciones de la conferencia para identificar cambios en las características de las cargas de trabajo de IA y después los vincula con la arquitectura de chips, las necesidades de memoria, la economía del silicio personalizado y el diseño de redes. Compara las especificaciones de sistemas divulgadas y las decisiones de diseño de los proveedores para evaluar beneficiarios potenciales y restricciones de ejecución.

Notas metodológicas

• Marco de análisis sectorialMarco de oferta y demanda

  Restricción de oferta y demanda de HBM

  El informe trata la dependencia de HBM3E, HBM4 y HBM4E en las principales hojas de ruta de IA como evidencia de que el suministro de memoria sigue limitando el despliegue de silicio para IA.

• Marco de análisis sectorialTransmisión entre tramos de la cadena de valor

  Transmisión de cambios en cargas de trabajo de IA a cómputo, memoria y componentes de redes

  El informe vincula los requisitos de las cargas de trabajo de inferencia agéntica con la arquitectura de aceleradores, la demanda de HBM, fabrics de interconexión, NIC, componentes ópticos y proveedores de semiconductores relacionados.

Correspondencia y comparación de activos

Correspondencia estructurada entre la tesis y activos concretos (fortalezas, debilidades, pares y riesgos).

• Broadcom (AVGO)

  Beneficiario del desarrollo de ASIC de IA personalizados y de las redes de IA basadas en Ethernet.

  Fortalezas

  Se cita su participación en Google TPU, OpenAI Jalapeno, Meta MTIA, SambaNova RDU y Thor Ultra Ethernet NIC.

  Comparación

  Se posiciona junto a Nvidia como un operador líder de redes de IA con integración vertical.

  Riesgos

  Las restricciones de HBM podrían limitar el ritmo de despliegue de silicio para IA.

• NVIDIA (NVDA)

  Beneficiario de las GPU comerciales y de las redes de pila completa.

  Fortalezas

  NVLink, Spectrum-X y BlueField-4 abarcan redes scale-up, scale-out, scale-across y scale-in.

  Debilidades

  Se espera que el silicio personalizado aumente su participación en el TAM de aceleradores de IA con el tiempo.

  Comparación

  Helios de AMD se posiciona como una alternativa de sistema completo que iguala la configuración de 72-GPU por rack citada para Nvidia.

  Riesgos

  La expansión de ASIC personalizados y la estrechez del suministro de HBM.

• AMD (AMD)

  Posible captador de cuota en cómputo de IA, especialmente en inferencia.

  Fortalezas

  MI400/Helios combina HBM4, UALink128 y capacidades integradas de GPU, CPU, DPU y AI NIC.

  Debilidades

  El informe describe la captura de cuota partiendo de una base baja.

  Comparación

  Se presenta como una respuesta competitiva frente a Vera Rubin de Nvidia y al ecosistema NVLink.

  Riesgos

  El resultado competitivo depende de la ejecución y de la adopción del ecosistema.

• Marvell Technology (MRVL)

  Beneficiario de la expansión de redes AI scale-out y de la demanda de ASIC personalizados.

  Fortalezas

  Se cita por silicio scale-out personalizado, DCI/DSP, óptica coherente y su asociación con Microsoft para MAIA ASIC.

  Comparación

  Se beneficia de la adopción de Ethernet junto con Broadcom.

• Astera Labs (ALAB)

  Beneficiario de mayores requisitos de conectividad de clústeres.

  Fortalezas

  Se cita por la arquitectura de conectividad y los retimers PCIe/CXL.

  Comparación

  Forma parte del ecosistema más amplio de redes, no de los operadores establecidos de NIC/DPU comerciales.

• MTSI

  Beneficiario del aumento de los requisitos de ancho de banda de clústeres de IA.

  Fortalezas

  Se cita por láseres de alta velocidad y componentes ópticos.

  Comparación

  Participa en el ecosistema de redes más amplio que respalda clústeres de mayor tamaño.

• Micron Technology (MU)

  Beneficiario de la demanda sostenida de HBM.

  Fortalezas

  HBM sigue siendo un requisito de suministro crítico en las principales hojas de ruta de silicio para IA.

• SanDisk (SNDK)

  JPMorgan lo menciona como beneficiario de la expansión de infraestructura de IA.

Datos clave

• Ciclos de cómputo dominados por decodificación75–97%Proporción declarada por SambaNova en los modelos de frontera citados.
• Ciclo de desarrollo de OpenAI Jalapeno~9 monthsDesde el RTL inicial hasta el tapeout, según la presentación.
• Participación de GPU comerciales en el TAM de aceleradores de IA>85%Participación actual citada por JPMorgan; el informe espera que la mezcla con XPU/ASIC personalizados tienda hacia la paridad en los próximos años.
• Cómputo de IA de AMD Helios2.9 exaflopsEn72 GPU por rack.
• Memoria HBM4 de AMD Helios31TBCapacidad de memoria a nivel de rack citada para la arquitectura de referencia Helios.
• Memoria y potencia de Intel Crescent Island480GB LPDDR5x; 350W TDPEspecificaciones destacadas para su GPU orientada a inferencia agéntica.

Impacto e implicaciones

JPMorgan considera que el giro hacia la inferencia agéntica amplía la demanda de semiconductores más allá de aceleradores centrados en entrenamiento, hacia ASIC personalizados, memoria, interfaces de red, conectividad y componentes ópticos. Identifica a AVGO, NVDA, AMD, MRVL, MTSI, ALAB, MU y SNDK como beneficiarios clave de la continua expansión de infraestructura de IA.

Riesgos

• La estrechez de la oferta de HBM podría limitar la disponibilidad y el despliegue de silicio para IA.
• El impacto competitivo de Intel depende de la ejecución de la hoja de ruta y de los compromisos de clientes hacia 2027.

Aspectos que vigilar

• El ritmo de despliegues de XPU y ASIC personalizados frente a la demanda de GPU comerciales.
• La disponibilidad de HBM3E, HBM4 y HBM4E en las próximas hojas de ruta de silicio para IA.
• La ejecución de AMD MI400 y Helios, la adopción de UALink y las ganancias de cuota en inferencia.
• La mayor adopción de Ethernet y Enhanced RoCE en redes AI scale-out y scale-across.