Memoria de semiconductores (HBM/DRAM): La demanda de IA eleva los precios de HBM y DRAM, mientras la computación en memoria podría transformar el cuello de botella de memoria a largo plazo

Visión general

Este informe analiza cómo la IA está impulsando la demanda, los precios y el crecimiento de ingresos de HBM y DRAM, y examina posibles cambios en las arquitecturas de memoria a medida que la IA pasa del entrenamiento a la inferencia. Su conclusión central es que la escasez actual se debe a una demanda más fuerte de lo esperado, al elevado consumo de obleas de HBM y a la lenta expansión de la oferta; las soluciones a largo plazo incluyen optimización algorítmica, dados base de HBM, memoria personalizada y computación en memoria o cerca de la memoria.

Perspectivas principales

El informe atribuye primero la fortaleza actual de la memoria para IA a la expansión de la inversión de capital de los centros de datos hiperescalables. El gasto relacionado con IA está superando las expectativas previas, mientras que los sistemas de computación requieren un ancho de banda de memoria extremadamente alto. En consecuencia, el crecimiento de la demanda se refleja no solo en una mayor capacidad de almacenamiento, sino también en una demanda concentrada de productos de alto ancho de banda. Sobre esta base, el informe identifica el gasto en IA, los requisitos de ancho de banda y las restricciones de oferta como los tres principales impulsores de la escasez de DRAM. El impacto de HBM sobre la oferta es particularmente significativo. El informe indica que HBM ocupa aproximadamente tres veces la superficie de dado de DDR y, por tanto, consume más capacidad disponible para la misma entrada de obleas. Mientras tanto, la producción de obleas de DRAM se ha mantenido prácticamente estancada durante más de 10 años, e instalar capacidad adicional tarda más de 2 años, lo que implica que la oferta no puede responder rápidamente a la demanda de IA. La combinación de una demanda en rápido aumento y una lenta expansión de la oferta ha creado una escasez de memoria e intensificado la presión al alza sobre los precios. Este desajuste entre oferta y demanda ya se refleja en la composición de los ingresos de la industria. El informe utiliza el encabezado «Ingresos récord de memoria $200», pero el texto proporcionado no especifica la unidad de esta cifra. También afirma explícitamente que la mayor parte del crecimiento proviene de los precios, y no simplemente de la expansión de los envíos. Esto significa que el mecanismo clave detrás del crecimiento actual de ingresos es la mejora de los precios causada por una oferta ajustada, mientras que el elevado consumo de recursos de obleas de HBM afecta aún más la dinámica de oferta y precios de la DRAM convencional. El patrón de demanda a largo plazo cambiará a medida que la IA se expanda del entrenamiento a la inferencia. El informe señala que los requisitos de recursos de inferencia abarcan una amplia gama: las aplicaciones de gama baja pueden requerir solo microcontroladores, mientras que los modelos de lenguaje grandes permanecen en la gama alta, respaldados por centros de datos hiperescalables. Los requisitos de potencia de computación, ancho de banda y coste varían sustancialmente entre los escenarios de inferencia, por lo que ninguna solución de memoria única cubrirá todas las cargas de trabajo de IA en el futuro. El informe también advierte que el problema actual de movimiento de datos podría no persistir indefinidamente en su forma actual. Los algoritmos continúan mejorando, lo que potencialmente reduce la marcada presión actual por el movimiento de datos. Mientras tanto, la computación en memoria y cerca de la memoria puede reducir las transferencias de datos entre procesadores y memoria, proporcionando otra vía para aliviar la «pared de memoria». Por ello, el informe describe la pared de memoria en 2026 como «con un aspecto diferente». La cuestión no es que el cuello de botella desaparezca por completo, sino que la composición de las cargas de trabajo, los algoritmos y las soluciones de hardware cambiarán conjuntamente su forma. Las direcciones tecnológicas específicas incluyen utilizar dados base de HBM para incorporar más funciones lógicas, adoptar chips de memoria personalizados para mejorar el rendimiento y utilizar redes neuronales analógicas en aplicaciones de gama baja. El informe considera que estos enfoques podrían reducir el tráfico de datos y aliviar la pared de memoria, pero el soporte actual de software sigue siendo débil y limita la adopción de nuevas arquitecturas. La lógica subyacente es que las capacidades de hardware por sí solas son insuficientes para lograr una transición arquitectónica; las cadenas de herramientas y los ecosistemas de software deben madurar en paralelo. A más largo plazo, el informe espera que la IA se vuelva gradualmente «invisible», lo que significa que se integrará en los sistemas cotidianos en lugar de percibirse como una función independiente. La IA también puede reducir los costes de las aplicaciones y llevar a los usuarios a utilizar agentes de forma continua. El informe compara este proceso con la adopción temprana de los semiconductores, los microprocesadores y microcontroladores, y el internet, lo que indica que su perspectiva no se centra solo en la demanda de HBM de los centros de datos, sino también en los cambios en la demanda de memoria a medida que la IA se extiende a una gama más amplia de puntos terminales y niveles de coste.

Marco de análisis

El informe explica primero el crecimiento de la demanda mediante la inversión de capital de los centros de datos hiperescalables y los requisitos de ancho de banda de IA; después analiza la escasez y la transmisión de precios considerando la superficie de dado de HBM en relación con DDR, la oferta de obleas de DRAM y los plazos de expansión de capacidad. Posteriormente examina los cambios de cargas de trabajo del entrenamiento a la inferencia, compara los requisitos de recursos entre niveles de computación y analiza soluciones para aliviar los cuellos de botella de movimiento de datos, incluida la optimización algorítmica, los dados base de HBM, la memoria personalizada, las redes neuronales analógicas y la computación en memoria o cerca de la memoria, antes de extender el análisis a la trayectoria de adopción de IA a largo plazo.

Notas metodológicas

• Marco de análisis de industria/sectorMarco de oferta y demanda

  Análisis de oferta y demanda de memoria para IA

  El informe considera el gasto en IA más fuerte de lo esperado y los requisitos de alto ancho de banda como impulsores de la demanda, al tiempo que ve las restricciones de largo plazo sobre la oferta de obleas de DRAM y el ciclo de expansión de capacidad de más de 2 años como restricciones de oferta. Utiliza el desajuste entre ambos para explicar la escasez y los aumentos de precios.

• Marco de análisis de industria/sectorDescomposición volumen-precio

  Descomposición volumen-precio del crecimiento de ingresos de memoria

  El informe afirma explícitamente que la mayor parte del crecimiento de ingresos proviene de los precios, distinguiendo así las contribuciones de precios más altos y el crecimiento de envíos a los ingresos récord de memoria.

• Marco de análisis de industria/sectorTransmisión de la cadena industrial upstream-midstream-downstream

  Transmisión de la inversión de capital de centros de datos a los precios de memoria

  El informe explica el impacto de la cadena industrial mediante la secuencia de inversión en IA de centros de datos hiperescalables, requisitos de ancho de banda de sistemas de computación, consumo de obleas de HBM, ajuste de la oferta de DRAM y aumento de los precios de memoria.

Correspondencia y comparación de activos

Correspondencia estructurada entre la tesis y activos concretos (fortalezas, debilidades, pares y riesgos).

• HBM

  Una tecnología beneficiaria principal de la demanda de alto ancho de banda de la IA y una fuente importante de presión sobre la oferta de obleas de DRAM.

  Fortalezas

  Puede satisfacer los requisitos de ancho de banda de sistemas de IA de alta gama y utilizar dados base para incorporar más funciones lógicas.

  Debilidades

  Ocupa aproximadamente tres veces la superficie de dado de DDR, lo que resulta en mayores costes y consumo de obleas.

  Comparación

  En comparación con DDR, HBM requiere aproximadamente tres veces la superficie de dado.

  Riesgos

  Las mejoras algorítmicas pueden reducir la presión del movimiento de datos, mientras que un soporte de software insuficiente también puede limitar la adopción de nuevas arquitecturas HBM.

• DRAM

  El elevado consumo de obleas de HBM y la demanda de IA ajustan conjuntamente la oferta general de DRAM e impulsan al alza los precios y los ingresos de la industria.

  Fortalezas

  Sigue siendo una base de memoria esencial para sistemas de computación que abarcan desde la gama baja hasta la alta.

  Debilidades

  La producción de obleas se ha mantenido prácticamente estancada durante más de 10 años, e instalar capacidad adicional tarda más de 2 años.

  Comparación

  DDR tiene una superficie de dado menor que HBM, pero comparte con HBM los recursos limitados de obleas de DRAM.

  Riesgos

  La lenta expansión de la oferta puede prolongar la escasez, mientras que los cambios algorítmicos y arquitectónicos pueden modificar la estructura de demanda a largo plazo.

• Computación en memoria y cerca de la memoria

  Alivia la pared de memoria al reducir el movimiento de datos entre procesadores y memoria.

  Fortalezas

  Puede utilizar dados base de HBM, memoria personalizada o arquitecturas DRAM 3D para mejorar la eficiencia del procesamiento de datos.

  Debilidades

  El soporte actual de software es débil, lo que representa una restricción clave para la adopción.

  Comparación

  En comparación con el modelo tradicional de separar procesadores y memoria, su objetivo es realizar más computación cerca de donde residen los datos.

  Riesgos

  Si el ecosistema de software no madura en paralelo, las soluciones de hardware podrían ser difíciles de desplegar a escala.

Datos clave

• Superficie de dado de HBM relativa a DDR3XEl informe indica que HBM ocupa aproximadamente tres veces la superficie de dado de DDR y, por tanto, consume más capacidad de obleas.
• Periodo de estancamiento de la producción de obleas de DRAM>10 yearsEl informe indica que la producción de obleas de DRAM se ha mantenido prácticamente estancada durante más de 10 años.
• Ciclo de instalación de capacidad adicional>2 yearsLa nueva capacidad tarda más de 2 años desde la construcción hasta la instalación, lo que dificulta que la oferta responda rápidamente a la demanda.
• Ingresos de memoria$200El encabezado del informe describe esto como un nivel récord, pero el contenido proporcionado no especifica la unidad.
• Fuente del crecimiento de ingresosPrincipalmente de los preciosEl informe considera que el crecimiento está impulsado principalmente por los precios y no únicamente por el crecimiento de los envíos.
• Rango de recursos de inferenciaMicrocontroladores a centros de datos hiperescalablesLa inferencia de gama baja puede ser gestionada por microcontroladores, mientras que los modelos de lenguaje grandes todavía requieren recursos de centros de datos de la más alta gama.

Impacto e implicaciones

El informe considera que el mayor consumo de obleas de HBM transmite la demanda de IA a la oferta y los precios generales de DRAM, haciendo que el crecimiento actual de los ingresos de memoria dependa más de los precios. A medida que las cargas de trabajo de IA se expanden hacia la inferencia, el mercado requerirá tanto soluciones de punto terminal de bajo coste como soluciones de centros de datos de alta gama. Las mejoras algorítmicas y la computación en memoria o cerca de la memoria podrían reducir el tráfico de datos, pero su impacto real dependerá de si el ecosistema de software puede cerrar las brechas existentes.

Riesgos

• Las mejoras algorítmicas continuas pueden reducir gradualmente el actualmente marcado problema de movimiento de datos, modificando así la demanda a largo plazo de memoria de alto ancho de banda.
• El soporte de software para la computación en memoria o cerca de la memoria es actualmente débil, lo que restringe la adopción tecnológica.
• La instalación de capacidad adicional de DRAM tarda más de 2 años, y la lenta respuesta de la oferta puede prolongar la escasez.

Aspectos que vigilar

• Supervisar los cambios en los requisitos de memoria y ancho de banda entre niveles de dispositivos a medida que las cargas de trabajo de IA pasan del entrenamiento a la inferencia.
• Supervisar los avances en la incorporación de funciones lógicas a los dados base de HBM, la memoria personalizada y la computación en memoria o cerca de la memoria.
• Supervisar si las cadenas de herramientas de software pertinentes mejoran lo suficiente para eliminar los cuellos de botella de adopción de nuevas arquitecturas de memoria.
• Supervisar si la optimización algorítmica reduce materialmente los requisitos de movimiento de datos.
• Supervisar el progreso de instalación de capacidad adicional de DRAM y su ciclo de liberación de oferta de más de 2 años.