High-bandwidth flash architecture, applications and technical milestones: HBF는 AI 추론에서 HBM을 보완할 수 있지만 상용화는 여전히 기술적으로 입증되지 않았다

개요

이 보고서는 고대역폭 플래시(HBF)와 AI 메모리 계층에서의 잠재적 역할에 관한 전문가 토론을 요약한다. 핵심 결론은 HBF가 하이브리드 추론 시스템에 대용량 비휘발성 스토리지를 추가할 수 있는 반면, HBM은 저지연 연산과 학습에 필수적이며 상용화 일정과 경제성은 불확실하다는 것이다.

핵심 견해

보고서는 HBF를 NAND 장치를 병렬화해 크게 높은 대역폭을 달성하려는 기술로 규정하며, 넓은 개념에서는 HBM이 DRAM을 병렬화하는 방식과 유사하다. 그러나 HBF가 모델 학습에서 HBM을 대체할 것으로 보지는 않는다. 학습에는 빈번한 가중치 업데이트가 필요한데, NAND는 HBM에 비해 쓰기 성능과 쓰기 내구성이 현저히 낮다. HBM은 고대역폭·저지연 처리와 빈번한 가중치 업데이트에 이미 확립돼 있으며, 고성능 AI 출력을 생성하는 데 핵심적 역할을 유지할 것으로 본다. 더 그럴듯한 진입점은 하이브리드 AI 추론이다. 이 구조에서 HBM은 저지연 연산과 출력 생성을 위한 고속 계층으로 남고, HBF는 모델 가중치, KV 캐시, 프리필 데이터 및 인덱스처럼 상대적으로 읽기 집약적인 데이터에 더 큰 용량을 제공할 수 있다. 모델 규모와 컨텍스트 요구가 가용 HBM 용량을 초과할수록 Mixture-of-Experts 모델과 밀집 모델 모두 혜택을 볼 수 있다. 보고서는 최종 연산과 빠른 출력 생성이 HBM에 의존하기 때문에 추론에서도 HBM이 여전히 필요하다고 강조한다. 잠재적 가치는 HBF 단독 시스템이 아니라 HBM/HBF 결합 메모리 계층에 있다. 분석은 제안된 HBF 성능이 현재 주로 가설적이라는 점을 강조한다. 실제 전력 소비, 열 한계, 대역폭, 지연시간, 신뢰성 또는 비용을 측정할 수 있는 작동 장치는 없다. 목표 사양에 기반한 시뮬레이션 결과는 하이브리드 시스템이 일부 추론 사례에서 유리할 수 있음을 시사하지만, 이는 생산 단계의 증거와 같지 않다. 전문가는 전력 소비, 열 방출, 쓰기 내구성, 컨트롤러 설계 및 달성 가능한 대역폭을 서로 연결된 장애물로 지적하며, NAND 고유의 마모와 신뢰성 문제를 해결하기 위한 컨트롤러 알고리즘과 오류 수정도 필요하다고 본다. 아키텍처 선택은 개발 경로에 영향을 줄 수 있다. 전문가는 Samsung, SK Hynix 및 Kioxia가 PCIe 기반 설계로 대역폭을 점진적으로 높이는 보다 단계적인 경로를 추구한다고 설명하며, PCIe 6.0은 PCIe 5.0보다 한 단계 높은 대역폭을 제공한다. Sandisk의 접근은 DDR급 대역폭에 근접하고 더 발전할 수 있는 장기적이고 더 야심 찬 인터페이스 개념으로 설명된다. 보고서는 Sandisk의 표준화 호스트 인터페이스 작업을 긍정적인 방향으로 보지만, 폭넓은 채택에는 컨트롤러 기능, 가속기 통합, 열 관리, 제조 가능한 패키징 및 고객 인증의 입증이 필요하다고 지적한다. 예상 제품 일정은 점진적이다. 전문가는 PCIe 기반 초기 고대역폭 플래시 제품이 2027년 후반에 등장할 수 있다고 보지만, 더 긴밀하게 통합된 HBF 구현에는 더 긴 엔지니어링 및 인증 주기가 필요하다고 본다. 핵심 상용화 검증 항목은 PCIe 6.0과 통합된 HBF 컨트롤러와 이후 NVLink 같은 가속기 인터커넥트와의 통합이다. HBF가 NVLink로 연결된 메모리 시스템에 참여하도록 하는 인터페이스는 고유한 제약이 있더라도 HBF를 더 기능적인 추가 메모리 계층으로 만들 수 있다. 고전력 연산 장치 근처에 플래시를 배치할 때 과도한 열, 수율 및 비용 상충을 피해야 하므로 패키징도 중요한 문제다. 현재 인터포저 방식은 비용이 높은 것으로 평가된다. 장기적으로 보고서는 서버 외에도 PC, 게임 기기, 로보틱스, 산업 자동화, 그리고 궁극적으로 스마트폰에서 잠재적 응용을 본다. 비휘발성 HBF는 지속적인 DRAM 리프레시 없이 모델, 로컬 컨텍스트 및 애플리케이션 상태를 유지할 수 있어 재개 시간을 단축하고 대기 전력을 낮추며 더 강력한 온디바이스 추론을 가능하게 할 수 있다. 엣지 AI 채택 자체는 초기 채택 주기에 HBF가 필요하지 않은 상태로 2027년 초에 가속되기 시작할 수 있으며, HBF의 더 큰 장기 기회는 소비자용 엣지 기기에서 나타날 수 있다. 전문가는 스마트폰보다 노트북과 데스크톱이 초기 엣지 실험 플랫폼이 될 가능성이 높다고 보지만, 전력 및 성능 유지에 관한 증거가 없기 때문에 스마트폰 채택 전망에는 신중하다. 주식 측면에서 보고서는 기술 실행 성공을 조건으로 Sandisk를 HBF의 가장 직접적인 수혜자로 지목한다. 제시된 $2,500 목표주가는 약 10x C27E EPS의 $255에 근거하며, 유사한 수익성 때문에 글로벌 메모리 동종업계의 평균 배수와 일치한다고 설명한다.

분석 프레임워크

보고서는 전문가 인터뷰를 활용해 HBF를 기존 HBM, DRAM 및 SSD 메모리 계층과 비교한 뒤, 작업 부하 유형, 기술적 제약, 아키텍처 선택지, 개발 이정표 및 잠재적 최종 시장을 기준으로 HBF를 평가한다. 시뮬레이션 기반 전망과 측정된 생산 증거를 구분하고, 기술 논의를 Sandisk의 잠재적 노출과 연결한다.

방법론 메모

• 기타기타

  전문가 인터뷰 및 기술 아키텍처 평가

  보고서는 AI 메모리 아키텍처에 관한 전문가 평가를 바탕으로 HBF의 제안된 역량과 제약을 HBM과 비교하고, 상용화에 필요한 하드웨어 이정표를 평가한다.

• 가치평가 방법론PER·PEG 가치평가

  이익 배수 기반 목표주가 평가

  Sandisk에 대해 보고서는 약 10x C27E EPS의 $255를 기반으로 $2,500 목표주가를 산정하고, 유사한 수익성을 지닌 글로벌 메모리 동종업계를 비교 기준으로 사용한다.

자산 매핑 및 비교

투자 논리에서 명시된 자산으로의 구조화 매핑(강점, 약점, 비교 대상, 위험).

• Sandisk Corporation (SNDK)

  기술 실행에 성공할 경우 HBF의 가장 직접적인 수혜자로 지목된다.

  강점

  보고서는 표준화 호스트 인터페이스 작업을 긍정적인 방향으로 보고, 더 야심 찬 장기 HBF 아키텍처를 언급한다.

  약점

  제안된 접근은 해결되지 않은 상당한 엔지니어링 및 상용화 요건에 직면해 있다.

  비교

  Samsung, SK Hynix 및 Kioxia는 더 점진적인 PCIe 기반 접근을 추구하는 것으로 설명되는 반면, Sandisk는 더 장기적인 인터페이스 접근을 추구한다.

  위험

  HBF 채택에는 컨트롤러 기능, 가속기 통합, 열 관리, 제조 가능한 패키징 및 고객 인증의 입증이 필요하다. 별도로 제시된 위험에는 NAND 공급 과잉, 중국 경쟁, AI 지원 소비자 제품 채택 둔화 및 eSSD 시장 점유율 상실이 포함된다.

핵심 데이터

• 초기 HBF 제품 시점Latter part of 2027PCIe 아키텍처 기반 초기 고대역폭 플래시 제품의 예상 시점이다.
• 엣지 AI 채택 시점Early 2027전문가는 HBF가 초기 주기에 필요하지 않은 상태에서 더 광범위한 엣지 AI 채택이 가속되기 시작할 것으로 예상한다.
• 제안된 HBF 용량Up to 2TB제안된 용량 수준으로 언급됐으며, 더 큰 모델, 프리필 및 컨텍스트 요구에는 추가적인 아키텍처 메커니즘이 필요할 수 있다.
• Sandisk 목표주가$2,500약 10x C27E EPS의 $255에 기반한다.
• Sandisk 밸류에이션 배수Approximately 10x C27E EPS유사한 수익성 때문에 글로벌 메모리 동종업계 평균과 일치한다고 설명된다.
• Sandisk C27E EPS$255보고서의 목표주가 방법론에 사용된 이익 입력값이다.

영향과 시사점

보고서의 시사점은 HBF가 AI 추론 시스템에서 이용 가능한 유효 메모리 용량을 확장하고, 궁극적으로 비휘발성 로컬 스토리지를 통해 엣지 기기 기능을 개선할 수 있다는 것이다. 단기적 중요성은 HBM의 광범위한 대체가 아니라 하이브리드 아키텍처가 수용 가능한 전력, 지연시간, 대역폭, 내구성, 신뢰성 및 비용을 입증할 수 있는지에 달려 있다.

위험

• HBF는 실제 작업 부하에서 요구되는 전력, 열, 대역폭, 지연시간, 쓰기 내구성, 신뢰성 또는 비용 목표를 충족하지 못할 수 있다.
• 컨트롤러 개발, 가속기 통합, 패키징 과제 및 고객 인증으로 상업적 채택이 지연될 수 있다.
• 공급 과잉으로 인한 NAND 가격의 급격한 하락은 Sandisk에 압력을 줄 수 있다.
• YMTC 등 중국 NAND 공급업체의 경쟁과 증설은 압력을 높일 수 있다.
• AI 지원 소비자 제품 채택이 예상보다 느릴 수 있다.
• Sandisk가 eSSD 시장 점유율을 잃을 수 있다.

주시할 점

• PCIe 6.0과 통합된 HBF 컨트롤러의 출시.
• HBF 컨트롤러가 NVLink 같은 가속기 인터커넥트와 연결될 수 있다는 증거.
• 전력, 열 거동, 대역폭, 지연시간, 내구성 및 신뢰성에 대한 생산 단계 측정 데이터.
• 고전력 연산 장치 근처에 플래시를 배치하기 위한 저비용·제조 가능한 패키징의 진전.
• 하이브리드 HBM/HBF 추론 시스템의 고객 인증 및 배치.
• 2027년 후반 PCIe 기반 초기 고대역폭 플래시 제품의 등장.