반도체 메모리(HBM/DRAM): AI 수요가 HBM 및 DRAM 가격을 끌어올리는 가운데, 메모리 내 컴퓨팅이 장기적 메모리 병목을 재편할 수 있음

개요

이 보고서는 AI가 HBM과 DRAM의 수요, 가격 및 매출 성장을 어떻게 견인하는지 논의하고, AI가 학습에서 추론으로 전환됨에 따라 메모리 아키텍처에서 발생할 수 있는 변화를 분석한다. 핵심 결론은 현재의 부족이 예상보다 강한 수요, 높은 HBM 웨이퍼 소비 및 느린 공급 확대에서 비롯되며, 장기적 해결책에는 알고리즘 최적화, HBM 베이스 다이, 맞춤형 메모리 및 메모리 내 또는 메모리 근접 컴퓨팅이 포함된다는 것이다.

핵심 견해

보고서는 먼저 하이퍼스케일 데이터센터의 자본지출 확대에 현재 AI 메모리 강세의 원인을 둔다. AI 관련 지출은 이전 예상치를 웃돌고 있으며, 컴퓨팅 시스템은 매우 높은 메모리 대역폭을 필요로 한다. 그 결과 수요 증가는 단순히 저장 용량 증가뿐 아니라 고대역폭 제품에 대한 집중된 수요로도 나타난다. 이를 바탕으로 보고서는 AI 투자, 대역폭 요구사항 및 공급 제약을 DRAM 부족의 세 가지 주요 동인으로 제시한다. HBM의 공급 측면 영향은 특히 크다. 보고서는 HBM이 DDR 대비 약 3배의 다이 면적을 차지하므로 동일한 웨이퍼 투입량에서 더 많은 가용 생산능력을 소비한다고 설명한다. 한편 DRAM 웨이퍼 생산량은 10년 이상 사실상 정체되어 왔고, 추가 생산능력 설치에는 2년 이상이 걸리므로 공급은 AI 수요에 신속히 대응할 수 없다. 빠르게 증가하는 수요와 느린 공급 확대의 조합은 메모리 부족을 초래하고 가격 상승 압력을 강화했다. 이러한 수급 불일치는 이미 업계의 매출 구성에 반영되고 있다. 보고서는 “사상 최고 메모리 매출 $200”이라는 제목을 사용하지만, 제공된 텍스트는 이 수치의 단위를 명시하지 않는다. 또한 성장의 대부분이 단순한 출하량 증가가 아니라 가격에서 비롯된다고 명시적으로 언급한다. 이는 현재 매출 성장의 핵심 메커니즘이 공급 부족으로 인한 가격 개선이며, HBM의 높은 웨이퍼 자원 소비가 기존 DRAM의 공급 및 가격 역학에도 추가로 영향을 미친다는 의미다. AI가 학습에서 추론으로 확대됨에 따라 장기 수요 패턴은 변화할 것이다. 보고서는 추론 자원 요구사항이 광범위하다고 언급한다. 저사양 애플리케이션은 마이크로컨트롤러만 필요할 수 있는 반면, 대규모 언어 모델은 하이퍼스케일 데이터센터의 지원을 받는 고사양 영역에 여전히 속한다. 컴퓨팅 성능, 대역폭 및 비용 요구사항은 추론 시나리오별로 상당히 다르므로, 향후 모든 AI 워크로드를 포괄하는 단일 메모리 솔루션은 없을 것이다. 보고서는 현재의 데이터 이동 문제가 지금과 같은 형태로 무기한 지속되지는 않을 수 있다고도 경고한다. 알고리즘은 계속 개선되고 있어 현재 두드러진 데이터 이동 압력을 낮출 가능성이 있다. 한편 메모리 내 및 메모리 근접 컴퓨팅은 프로세서와 메모리 간 데이터 전송을 줄여 ‘메모리 월’을 완화하는 또 다른 경로를 제공할 수 있다. 이에 따라 보고서는 2026년의 메모리 월이 “다르게 보인다”고 설명한다. 이는 병목이 완전히 사라진다는 뜻이 아니라, 워크로드 구성, 알고리즘 및 하드웨어 솔루션이 함께 그 형태를 바꾼다는 의미다. 구체적인 기술 방향에는 더 많은 로직 기능을 통합하는 HBM 베이스 다이 활용, 성능 개선을 위한 맞춤형 메모리 칩 채택, 저사양 애플리케이션에서의 아날로그 신경망 사용 등이 포함된다. 보고서는 이러한 접근법이 데이터 트래픽을 줄이고 메모리 월을 완화할 수 있다고 보지만, 현재 소프트웨어 지원은 여전히 미흡하여 새로운 아키텍처의 도입을 제약한다. 근본적인 논리는 하드웨어 기능만으로는 아키텍처 전환을 달성하기에 충분하지 않으며, 툴체인과 소프트웨어 생태계가 병행하여 성숙해야 한다는 것이다. 더 장기적으로 보고서는 AI가 점차 ‘보이지 않게’ 될 것으로 예상하는데, 이는 독립적인 기능으로 인식되기보다 일상 시스템에 통합될 것이라는 의미다. AI는 애플리케이션 비용을 낮추고 사용자가 에이전트를 지속적으로 이용하게 할 수도 있다. 보고서는 이 과정을 반도체, 마이크로프로세서와 마이크로컨트롤러, 인터넷의 초기 도입과 비교하며, 그 전망이 데이터센터의 HBM 수요뿐 아니라 AI가 더 광범위한 엔드포인트와 비용 계층으로 확산됨에 따른 메모리 수요 변화에도 초점을 맞추고 있음을 시사한다.

분석 프레임워크

보고서는 먼저 하이퍼스케일 데이터센터 자본지출과 AI 대역폭 요구사항을 통해 수요 성장을 설명한 뒤, DDR 대비 HBM의 다이 면적, DRAM 웨이퍼 공급 및 생산능력 확대 리드타임을 고려하여 부족과 가격 전이를 분석한다. 이후 학습에서 추론으로의 워크로드 변화를 검토하고 컴퓨팅 계층별 자원 요구사항을 비교하며, 알고리즘 최적화, HBM 베이스 다이, 맞춤형 메모리, 아날로그 신경망 및 메모리 내 또는 메모리 근접 컴퓨팅을 포함한 데이터 이동 병목 완화 솔루션을 논의한 후 AI의 장기 도입 경로로 분석을 확장한다.

방법론 메모

• 산업/섹터 분석 프레임워크수급 프레임워크

  AI 메모리 수급 분석

  보고서는 예상보다 강한 AI 투자와 고대역폭 요구사항을 수요 동인으로, DRAM 웨이퍼 공급의 장기적 제약과 2년 이상의 생산능력 확대 주기를 공급 제약으로 본다. 두 요인의 불일치를 활용해 부족과 가격 상승을 설명한다.

• 산업/섹터 분석 프레임워크물량-가격 분해

  메모리 매출 성장의 물량-가격 분해

  보고서는 매출 성장의 대부분이 가격에서 비롯된다고 명시적으로 언급함으로써, 사상 최고 메모리 매출에 대한 가격 상승과 출하량 성장의 기여도를 구분한다.

• 산업/섹터 분석 프레임워크업스트림-미드스트림-다운스트림 산업 체인 전이

  데이터센터 자본지출에서 메모리 가격으로의 전이

  보고서는 하이퍼스케일 데이터센터의 AI 투자, 컴퓨팅 시스템의 대역폭 요구사항, HBM 웨이퍼 소비, DRAM 공급 긴축 및 메모리 가격 상승의 순서를 통해 산업 체인 영향을 설명한다.

자산 매핑 및 비교

투자 논리에서 명시된 자산으로의 구조화 매핑(강점, 약점, 비교 대상, 위험).

• HBM

  AI의 고대역폭 수요를 수혜하는 핵심 기술이자 DRAM 웨이퍼 공급 압박의 중요한 원인이다.

  강점

  고급 AI 시스템의 대역폭 요구사항을 충족할 수 있으며, 베이스 다이를 활용해 더 많은 로직 기능을 통합할 수 있다.

  약점

  DDR 대비 약 3배의 다이 면적을 차지하여 비용과 웨이퍼 소비량이 더 높다.

  비교

  DDR와 비교하면 HBM은 약 3배의 다이 면적을 필요로 한다.

  위험

  알고리즘 개선은 데이터 이동 압력을 낮출 수 있으며, 불충분한 소프트웨어 지원 역시 새로운 HBM 아키텍처의 도입을 제한할 수 있다.

• DRAM

  HBM의 높은 웨이퍼 소비와 AI 수요가 함께 전반적인 DRAM 공급을 긴축시키고 가격과 업계 매출을 끌어올린다.

  강점

  저사양부터 고사양까지의 컴퓨팅 시스템에 필수적인 메모리 기반으로 남아 있다.

  약점

  웨이퍼 생산량은 10년 이상 사실상 정체되어 왔고, 추가 생산능력 설치에는 2년 이상이 걸린다.

  비교

  DDR은 HBM보다 다이 면적이 작지만, HBM과 제한된 DRAM 웨이퍼 자원을 공유한다.

  위험

  느린 공급 확대는 부족을 장기화할 수 있으며, 알고리즘 및 아키텍처 변화는 장기 수요 구조를 바꿀 수 있다.

• 메모리 내 및 메모리 근접 컴퓨팅

  프로세서와 메모리 간 데이터 이동을 줄여 메모리 월을 완화한다.

  강점

  HBM 베이스 다이, 맞춤형 메모리 또는 3D DRAM 아키텍처를 활용해 데이터 처리 효율을 개선할 수 있다.

  약점

  현재 소프트웨어 지원이 미흡하며, 이는 도입의 핵심 제약 요인이다.

  비교

  프로세서와 메모리를 분리하는 전통적 모델과 비교하면, 데이터가 위치한 곳 가까이에서 더 많은 연산을 수행하는 것이 목표다.

  위험

  소프트웨어 생태계가 병행하여 성숙하지 않으면 하드웨어 솔루션을 대규모로 배포하기 어려울 수 있다.

핵심 데이터

• DDR 대비 HBM 다이 면적3X보고서는 HBM이 DDR 대비 약 3배의 다이 면적을 차지하므로 더 많은 웨이퍼 생산능력을 소비한다고 설명한다.
• DRAM 웨이퍼 생산량 정체 기간>10 years보고서는 DRAM 웨이퍼 생산량이 10년 이상 사실상 정체되어 왔다고 설명한다.
• 추가 생산능력 설치 주기>2 years신규 생산능력은 건설부터 설치까지 2년 이상이 걸리므로 공급이 수요에 신속히 대응하기 어렵다.
• 메모리 매출$200보고서 제목은 이를 사상 최고 수준으로 설명하지만, 제공된 내용은 단위를 명시하지 않는다.
• 매출 성장 원천대부분 가격에서 발생보고서는 성장이 출하량 증가만이 아니라 주로 가격에 의해 견인된다고 판단한다.
• 추론 자원 범위마이크로컨트롤러부터 하이퍼스케일 데이터센터까지저사양 추론은 마이크로컨트롤러로 처리할 수 있는 반면, 대규모 언어 모델은 여전히 최고급 데이터센터 자원을 필요로 한다.

영향과 시사점

보고서는 HBM의 높은 웨이퍼 소비가 AI 수요를 전반적인 DRAM 공급 및 가격으로 전이시켜, 현재 메모리 매출 성장이 가격에 더욱 의존하게 만든다고 판단한다. AI 워크로드가 추론으로 확대됨에 따라 시장은 저비용 엔드포인트 솔루션과 고급 데이터센터 솔루션을 모두 필요로 하게 될 것이다. 알고리즘 개선과 메모리 내 또는 메모리 근접 컴퓨팅은 데이터 트래픽을 줄일 수 있으나, 실제 영향은 소프트웨어 생태계가 기존의 격차를 해소할 수 있는지에 달려 있다.

위험

• 지속적인 알고리즘 개선은 현재 두드러진 데이터 이동 문제를 점진적으로 줄여 고대역폭 메모리에 대한 장기 수요를 바꿀 수 있다.
• 메모리 내 또는 메모리 근접 컴퓨팅에 대한 소프트웨어 지원은 현재 미흡하여 기술 도입을 제약한다.
• 추가 DRAM 생산능력 설치에는 2년 이상이 걸리며, 느린 공급 대응은 부족을 장기화할 수 있다.

주시할 점

• AI 워크로드가 학습에서 추론으로 전환됨에 따라 디바이스 계층별 메모리 및 대역폭 요구사항의 변화를 모니터링한다.
• HBM 베이스 다이에 로직 기능을 추가하는 기술, 맞춤형 메모리 및 메모리 내 또는 메모리 근접 컴퓨팅의 발전을 모니터링한다.
• 관련 소프트웨어 툴체인이 새로운 메모리 아키텍처의 도입 병목을 제거할 만큼 개선되는지 모니터링한다.
• 알고리즘 최적화가 데이터 이동 요구사항을 실질적으로 줄이는지 모니터링한다.
• 추가 DRAM 생산능력의 설치 진행 상황과 2년 이상의 공급 출시 주기를 모니터링한다.