High-bandwidth flash architecture, applications and technical milestones: HBF podría complementar a HBM en la inferencia de IA, pero su comercialización sigue sin demostrarse técnicamente

Visión general

El informe resume una discusión de expertos sobre la memoria flash de alto ancho de banda (HBF) y su posible papel en la jerarquía de memoria de IA. Su conclusión central es que HBF podría añadir almacenamiento no volátil de gran capacidad a sistemas de inferencia híbridos, mientras HBM sigue siendo esencial para el cómputo de baja latencia y el entrenamiento; el calendario y la viabilidad económica de la comercialización continúan siendo inciertos.

Perspectivas principales

El informe presenta HBF como un intento basado en NAND de paralelizar dispositivos flash para conseguir un ancho de banda sustancialmente mayor, un concepto ampliamente análogo a cómo HBM paraleliza DRAM. Sin embargo, no espera que HBF desplace a HBM en el entrenamiento de modelos. El entrenamiento exige actualizaciones frecuentes de pesos, ámbito en el que NAND tiene un rendimiento de escritura y una resistencia de escritura materialmente inferiores a los de HBM. HBM ya está consolidada para el procesamiento de alto ancho de banda y baja latencia, así como para las actualizaciones frecuentes de pesos, y debería conservar su papel central para generar resultados de IA con suficiente rendimiento. La vía de entrada más plausible es la inferencia de IA híbrida. En esta arquitectura, HBM sigue siendo la capa rápida para el cómputo sensible a la latencia y la generación de resultados, mientras HBF podría aportar mayor capacidad para material relativamente intensivo en lectura, incluidos pesos de modelos, caché KV, datos de prellenado e índices. Tanto los modelos de mezcla de expertos como los modelos densos podrían beneficiarse a medida que los requisitos de modelo y contexto superen la capacidad disponible de HBM. El informe subraya que HBM seguiría siendo necesaria incluso en inferencia, porque el cómputo final y la producción rápida de resultados dependen de ella; el valor potencial reside en una jerarquía de memoria combinada HBM/HBF, no en un sistema solo de HBF. El análisis destaca que el rendimiento propuesto para HBF sigue siendo en gran medida hipotético. No existen dispositivos funcionales que permitan medir el consumo real de energía, los límites térmicos, el ancho de banda, la latencia, la fiabilidad o el coste. Los resultados de simulación basados en especificaciones objetivo sugieren que los sistemas híbridos podrían tener ventajas en casos concretos de inferencia, pero no equivalen a evidencia de producción. El experto identifica el consumo eléctrico, la disipación térmica, la resistencia de escritura, el diseño de controladores y el ancho de banda alcanzable como los principales obstáculos interrelacionados; también se necesitan algoritmos de controlador y corrección de errores para afrontar el desgaste y los problemas de fiabilidad específicos de NAND. Las opciones arquitectónicas pueden afectar a la trayectoria de desarrollo. El experto caracteriza a Samsung, SK Hynix y Kioxia como compañías que siguen una ruta más gradual, elevando inicialmente el ancho de banda mediante diseños basados en PCIe, con PCIe 6.0 como un avance frente a PCIe 5.0. El enfoque de Sandisk se describe como un concepto de interfaz más ambicioso y de más largo plazo, que podría aproximarse al ancho de banda de DDR y evolucionar más adelante. El informe considera positiva la dirección del trabajo de Sandisk en una interfaz de host estandarizada, pero indica que una adopción más amplia requerirá funcionalidad demostrada del controlador, integración con aceleradores, gestión térmica, empaquetado fabricable y cualificación de clientes. El calendario previsto de productos sigue siendo gradual. El experto espera que los primeros productos flash de mayor ancho de banda basados en PCIe puedan surgir en la segunda parte de 2027, mientras que las implementaciones de HBF más estrechamente integradas requerirán un ciclo de ingeniería y cualificación más prolongado. Las pruebas clave de comercialización son un controlador HBF integrado con PCIe 6.0 y, posteriormente, la integración con interconexiones de aceleradores como NVLink. Una interfaz que permita a HBF participar en un sistema de memoria conectado por NVLink podría convertirla en una capa de memoria adicional más funcional, aunque con limitaciones propias. El empaquetado también es un factor material, ya que ubicar flash cerca de cómputo de alta potencia debe evitar compromisos prohibitivos de calor, rendimiento de fabricación y coste; los enfoques actuales con interposer se consideran costosos. A más largo plazo, el informe ve aplicaciones potenciales fuera de los servidores en PC, sistemas de videojuegos, robótica, automatización industrial y, eventualmente, smartphones. HBF no volátil podría conservar modelos, contexto local y estado de aplicaciones sin actualización continua de DRAM, lo que podría acelerar la reanudación, reducir la energía en espera y permitir inferencia en dispositivo más capaz. La adopción de IA de borde en sí misma podría empezar a acelerarse a principios de 2027 sin que HBF sea necesaria para el ciclo inicial, mientras que la mayor oportunidad a largo plazo de HBF podría surgir en dispositivos de borde orientados al consumidor. El experto espera que los portátiles y ordenadores de escritorio sean las plataformas iniciales más probables para pruebas de borde antes que los teléfonos, aunque mantiene cautela sobre la adopción en smartphones sin evidencia sobre potencia y mantenimiento del rendimiento. En renta variable, el informe identifica a Sandisk como el beneficiario directo más claro de HBF, condicionado a una ejecución técnica exitosa. Su objetivo de precio de $2,500 se basa en aproximadamente 10x C27E EPS de $255, en línea con el múltiplo medio de sus pares globales de memoria debido a una rentabilidad similar.

Marco de análisis

El informe utiliza una entrevista con expertos para comparar HBF con las capas de memoria existentes de HBM, DRAM y SSD, y después evalúa HBF según tipo de carga de trabajo, restricciones técnicas, opciones arquitectónicas, hitos de desarrollo y mercados finales potenciales. Distingue las proyecciones basadas en simulación de la evidencia medida en producción y vincula la discusión técnica con la exposición potencial de Sandisk.

Notas metodológicas

• OtroOtro

  Entrevista con experto y evaluación de arquitectura técnica

  El informe se basa en la evaluación de un experto sobre arquitecturas de memoria de IA, comparando las capacidades y limitaciones propuestas de HBF con HBM y valorando los hitos de hardware necesarios para la comercialización.

• Métodos de valoraciónValoración por P/E y PEG

  Objetivo de precio basado en múltiplo de beneficios

  Para Sandisk, el informe basa su objetivo de precio de $2,500 en aproximadamente 10x C27E EPS de $255, comparándolo con pares globales de memoria de rentabilidad similar.

Correspondencia y comparación de activos

Correspondencia estructurada entre la tesis y activos concretos (fortalezas, debilidades, pares y riesgos).

• Sandisk Corporation (SNDK)

  Se identifica como el beneficiario directo más claro de HBF si su ejecución técnica tiene éxito.

  Fortalezas

  El informe considera positiva la dirección de su trabajo en una interfaz de host estandarizada y destaca su arquitectura HBF de más largo plazo y más ambiciosa.

  Debilidades

  Su enfoque propuesto afronta importantes requisitos de ingeniería y comercialización aún sin resolver.

  Comparación

  Samsung, SK Hynix y Kioxia se describen como empresas que siguen enfoques más graduales basados en PCIe, mientras Sandisk persigue un enfoque de interfaz de más largo plazo.

  Riesgos

  La adopción de HBF requiere funcionalidad demostrada del controlador, integración con aceleradores, gestión térmica, empaquetado fabricable y cualificación de clientes; entre los riesgos declarados por separado están la sobreoferta de NAND, la competencia china, una adopción más lenta de productos de consumo habilitados por IA y la pérdida de cuota en eSSD.

Datos clave

• Calendario inicial de productos HBFLatter part of 2027Momento esperado para los primeros productos flash de mayor ancho de banda basados en arquitecturas PCIe.
• Calendario de adopción de IA de bordeEarly 2027El experto espera que la adopción más amplia de IA de borde empiece a acelerarse, aunque HBF no es necesaria para el ciclo inicial.
• Capacidad HBF propuestaUp to 2TBSe menciona como nivel de capacidad propuesto; modelos, prellenados y requisitos de contexto mayores podrían requerir mecanismos arquitectónicos adicionales.
• Objetivo de precio de Sandisk$2,500Basado en aproximadamente 10x C27E EPS de $255.
• Múltiplo de valoración de SandiskApproximately 10x C27E EPSSe indica que está en línea con el promedio de pares globales de memoria debido a una rentabilidad similar.
• C27E EPS de Sandisk$255Dato de beneficios utilizado en la metodología de objetivo de precio del informe.

Impacto e implicaciones

La implicación del informe es que HBF podría ampliar la capacidad de memoria efectiva disponible para sistemas de inferencia de IA y, finalmente, mejorar la funcionalidad de dispositivos de borde mediante almacenamiento local no volátil. Su relevancia a corto plazo depende menos de sustituir ampliamente a HBM que de que las arquitecturas híbridas demuestren potencia, latencia, ancho de banda, resistencia, fiabilidad y coste aceptables.

Riesgos

• HBF podría no alcanzar objetivos necesarios de potencia, temperatura, ancho de banda, latencia, resistencia de escritura, fiabilidad o coste en cargas de trabajo reales.
• La adopción comercial podría retrasarse por el desarrollo de controladores, la integración con aceleradores, retos de empaquetado y la cualificación de clientes.
• Una caída brusca de los precios de NAND por sobreoferta podría presionar a Sandisk.
• La competencia y expansión de capacidad de proveedores chinos de NAND como YMTC podrían incrementar la presión.
• La adopción de productos de consumo habilitados por IA podría ser más lenta de lo esperado.
• Sandisk podría perder cuota de mercado en eSSD.

Aspectos que vigilar

• El lanzamiento de un controlador HBF integrado con PCIe 6.0.
• Evidencia de que los controladores HBF puedan conectarse con interconexiones de aceleradores como NVLink.
• Datos de producción medidos sobre potencia, comportamiento térmico, ancho de banda, latencia, resistencia y fiabilidad.
• Avances en empaquetado de bajo coste y fabricable para colocar flash cerca de cómputo de alta potencia.
• Cualificación y despliegue por clientes de sistemas de inferencia híbridos HBM/HBF.
• La aparición de los primeros productos flash de alto ancho de banda basados en PCIe a finales de 2027.