US semiconductor AI infrastructure: UBS는 AI 인프라가 가속기 중심 확장에서 시스템 수준 최적화로 이동한다고 본다
AI Infrastructure Summit의 주요 내용은 지속적인 추론 수요, 악화되는 메모리 병목, 네트워킹·하드웨어 유연성·더 빠른 구축 주기의 중요성 증대를 보여준다. UBS는 NVIDIA의 시스템 수준 역량도 과소평가되고 있다고 본다.
요약
AI Infrastructure Summit의 주요 내용은 지속적인 추론 수요, 악화되는 메모리 병목, 네트워킹·하드웨어 유연성·더 빠른 구축 주기의 중요성 증대를 보여준다. UBS는 NVIDIA의 시스템 수준 역량도 과소평가되고 있다고 본다.
- 추론 운영자는 낮은 token당 비용과 미래 워크로드를 위한 하드웨어 유연성 간 균형을 맞춰야 한다.
- 메모리 대역폭, 용량, 스토리지가 가속기 활용률을 점점 더 제한하고 있다.
- 네트워킹은 분산형·지연 민감형 추론에 핵심이 되고 있으며, 여러 경쟁 프로토콜을 지원할 수 있다.
- CXL은 DDR4의 유효 수명을 연장하고 더 비싼 DDR5 의존도를 낮출 수 있다.
- AWS는 새로운 구축 방식으로 랙 램프업 기간을 약 9개월에서 수주로 줄일 수 있다고 밝혔다.
보고서 해설
개요
UBS는 2026년 AI Infrastructure Summit 논의를 요약하며 AI 구축이 단순 컴퓨팅 용량보다 시스템 전체 경제성에 의해 점점 더 좌우된다고 주장한다. 보고서는 지속적인 추론 수요, 메모리와 네트워킹 제약, 경쟁적인 상호연결 방식, CXL 기반 메모리 구성, 빨라지는 칩 개발 및 구축 주기를 강조한다.
핵심 견해
UBS는 서밋에서 세 가지 포괄적 결론을 도출했다. 개별 컴퓨팅 아키텍처에 시장의 관심이 집중되는 가운데 NVIDIA의 유연성과 시스템 수준 전문성이 과소평가된 것으로 보인다는 점, 메모리가 여전히 가장 큰 병목이며 개선되지 않고 있다는 점, 그리고 AI 도구가 컴퓨팅 설계 주기를 가속하고 하이퍼스케일러의 ASIC 솔루션 램프업을 더 빠르게 만들고 있다는 점이다. 더 빠른 개발과 구축이 하이퍼스케일러의 ASIC 내재화 시점을 앞당길지는 불확실하다. 추론 수요는 매우 강하지만 운영자는 더 복잡한 최적화 문제에 직면해 있다. 현 세대 모델의 token당 비용을 낮추는 동시에 수년 뒤 크게 달라질 수 있는 워크로드를 지원할 충분한 하드웨어 대체 가능성을 유지해야 한다. UBS는 단기 최적화와 장기 유연성 사이의 긴장이 AI 인프라 설계에서 점점 더 중요해지고 있다고 본다. 서밋에서는 Cerebras, SambaNova, Etched 등 새로운 컴퓨팅 솔루션도 주목받았다. 보고서에 따르면 최적화의 초점은 단순히 가속기를 추가하는 것에서 시스템 전체를 개선하는 것으로 옮겨가고 있다. 메모리 대역폭, 메모리 용량, 스토리지는 가속기의 충분한 활용을 방해할 수 있어 컴퓨팅만 추가하는 가치는 제한적이다. 이로 인한 "메모리 월"은 서밋의 반복적 주제였으며, 대응 방안으로는 scale-up 네트워크 처리량 확대, 지연시간 감소, 새로운 컴퓨팅 아키텍처가 제시됐다. 분산형·지연 민감형 추론에서는 가속기와 메모리 간 데이터 이동 효율을 결정하기 때문에 네트워킹이 컴퓨팅만큼이나 중요해지고 있다. 더 나은 네트워킹은 가속기 활용률을 높이고 token당 비용을 낮출 수 있다. UBS가 행사에서 들은 바에 따르면 하이퍼스케일러는 승자독식 scale-up 시장보다 여러 대안과 프로토콜을 원한다. ESUN은 더 짧은 헤더로 Ethernet의 과거 지연 문제를 해결하면서 Ethernet의 생태계와 신뢰성 장점을 유지해 신뢰할 수 있는 scale-up 대안으로 평가됐다. NVLink는 가장 성숙하고 신뢰성 높은 비Ethernet 옵션으로, UALink는 떠오르는 대안으로 여겨졌다. Google은 GCP에서 OCS 솔루션을 폭넓게 활용하면서도 특정 지연 민감형 추론 워크로드에 UALink를 평가하고 있는 것으로 전해졌으며, UBS는 초기 UALink 구축이 특정 용도에 한정된 소규모일 것으로 본다. CXL은 최신 DDR5 지원 CPU용 시스템에서 DDR4의 유효 수명을 연장하는 흥미로운 방안으로 부상하고 있다. Meta는 서버의 43%가 메모리 제약을 받고 있으며, 탄소 발자국의 69%가 메모리 DIMM과 관련된다고 밝혔다. 일반적인 DIMM 수명주기는 CPU보다 최소 2배 길기 때문에 CXL 연결 DDR4는 더 비싼 DDR5 필요량을 줄일 수 있다. CXL은 로컬 DIMM보다 지연시간을 추가하지만, 시스템 메모리의 약 4분의 1을 CXL 연결 DDR4로 배정하면 해당 지연을 사실상 감춰 비슷한 성능을 낼 수 있다는 논의가 있었다. UBS는 이를 운영자가 단일 부품이 아닌 시스템 전체 경제성을 중심으로 AI 인프라를 최적화하는 또 하나의 사례로 해석한다. AI는 칩 설계와 구축 주기도 단축하고 있다. AI 도구는 기존에 순차적으로 진행되던 엔지니어링 작업을 병렬화해 설계 기간을 줄일 수 있지만, 더 빠른 제품 주기를 지원해야 한다는 압박을 인프라 스택 전반에 가한다. AWS는 컴퓨팅 실리콘이 उपलब्ध해지기 전에 랙을 구축하고 테스트한 뒤 컴퓨팅 칩을 사실상 마지막 단계에서 넣는 방식을 설명했다. AWS는 이 방식이 기존 약 9개월의 램프업을 수주로 단축할 수 있다고 밝혔다. UBS는 이를 더 빨라지는 AI 칩 로드맵의 2차 효과로 보며, 실리콘 설계뿐 아니라 인프라 구축도 함께 가속돼야 한다고 본다.
분석 프레임워크
UBS는 AI Infrastructure Summit의 논의와 발표를 바탕으로 추론 경제성, 시스템 병목, 네트워킹 대안, 메모리 아키텍처, 더 빠른 칩 구축 순으로 결론을 구성한다. 기술적 관찰을 가속기 활용률, 지연시간, token당 비용, 하드웨어 유연성, 시스템 전체 경제성에 미치는 영향을 통해 해석한다.
방법론 메모
P/E 밸류에이션
UBS는 보고서에서 논의된 기업의 가치 평가에 P/E를 포함한 밸류에이션 기법을 사용한다고 밝혔다.
EV/FCF 밸류에이션
UBS는 EV/FCF도 사용한다고 밝혔으며, 이는 기업가치와 잉여현금흐름을 비교하는 방식으로 보고서에서 논의된 기업의 가치 평가에 활용된다.
자산 매핑 및 비교
투자 논리에서 명시된 자산으로의 구조화 매핑(강점, 약점, 비교 대상, 위험).
- NVIDIA (NVDA)UBS는 개별 컴퓨팅 아키텍처에 대한 관심 속에서 NVIDIA의 유연성과 시스템 수준 전문성이 과소평가됐다고 본다.
- 강점
- 유연성과 시스템 수준 전문성.
- 비교
- NVLink는 가장 성숙하고 신뢰성 높은 비Ethernet 네트워킹 옵션으로 평가되며, 대안에는 Ethernet 기반 방식과 UALink가 있다.
- Cerebras, SambaNova, EtchedAI 인프라 생태계에서 주목이 높아지고 있는 신흥 컴퓨팅 솔루션.
- 비교
- 기존 컴퓨팅 아키텍처의 대안 중 하나로 자리매김한다.
- ESUN신뢰할 수 있는 scale-up 네트워킹 대안으로 설명된다.
- 강점
- 더 짧은 헤더가 Ethernet의 과거 지연 문제를 해결하면서 Ethernet의 생태계와 신뢰성 장점을 유지한다고 평가된다.
- 비교
- NVLink 및 신흥 UALink와 경쟁하며, UBS는 이 시장이 승자독식이 될 가능성이 낮다고 본다.
- UALink특정 지연 민감형 추론 워크로드에 대해 평가 중인 신흥 네트워킹 대안.
- 강점
- 특정 지연 민감형 워크로드에 적합할 가능성.
- 약점
- 초기 구축은 규모가 작고 특정 애플리케이션에 국한될 것으로 예상된다.
- 비교
- NVLink의 성숙한 비Ethernet 지위와 GCP의 광범위한 OCS 활용과 대비된다.
핵심 데이터
- AI Infra Summit 참석자 수~8,000 experts전년 규모 대비 2배 이상 증가했다.
- 메모리 제약을 받는 서버43%Meta가 강조한 수치.
- 메모리 DIMM 관련 탄소 발자국 비중69%Meta가 강조한 수치.
- DIMM과 CPU 수명주기 비교At least 2x longer일반적인 DIMM 수명주기를 CPU 수명주기와 비교한 수치.
- CXL 연결 DDR4 배정 비중~1/4 of system memory추가 지연시간을 감추면서 비슷한 성능을 낼 수 있다고 논의된 소규모 배정.
- AWS 랙 구축 램프업 기간~9 months to several weeks컴퓨팅 실리콘이 उपलब्ध해지기 전에 랙을 사전 구축·테스트하는 방식으로 달성된다고 AWS가 설명한 단축.
영향과 시사점
UBS는 AI 인프라 기회가 시스템 전체를 최적화하는 역량에 의해 점점 더 형성된다고 주장한다. 컴퓨팅, 메모리, 스토리지, 네트워킹이 함께 작동해 활용률을 높이고 token당 비용을 낮춰야 한다. 이는 유연한 시스템 아키텍처, 다양한 네트워킹 프로토콜, 메모리 확장 방식, 더 빠른 칩 로드맵에 맞출 수 있는 구축 프로세스의 중요성을 뒷받침한다.
위험
- 거시경제 침체는 보고서에서 논의된 기업에 영향을 미칠 수 있다.
- 국제 무역 차질은 보고서에서 논의된 기업에 영향을 미칠 수 있다.
- 새로운 발명에 따른 기술적 파괴는 경쟁 구도를 바꿀 수 있다.
- 비즈니스 모델 혁신과 산업 구조 변화는 판매량, ASP, 매출에 영향을 미칠 수 있다.
주시할 점
- 더 빠른 ASIC 설계와 램프업 주기가 하이퍼스케일러의 ASIC 내재화 시점을 앞당길지 여부.
- UALink의 지연 민감형 추론 워크로드 활용을 포함한 복수 scale-up 네트워킹 프로토콜의 채택.
- 성능을 유지하면서 DDR5 필요량을 줄이기 위한 CXL 연결 DDR4의 구축 정도.
- 인프라 구축 프로세스가 더 빠른 AI 칩 로드맵을 따라갈 수 있는지 여부.