US semiconductor AI infrastructure:UBSはAIインフラがアクセラレーター中心の拡張からシステムレベルの最適化へ移行するとみる
AI Infrastructure Summitの要点は、根強い推論需要、悪化するメモリーのボトルネック、ネットワーク、ハードウェアの柔軟性、より迅速な導入サイクルの重要性の高まりを示した。UBSはまた、NVIDIAのシステムレベルの能力が過小評価されているとみている。
要約
AI Infrastructure Summitの要点は、根強い推論需要、悪化するメモリーのボトルネック、ネットワーク、ハードウェアの柔軟性、より迅速な導入サイクルの重要性の高まりを示した。UBSはまた、NVIDIAのシステムレベルの能力が過小評価されているとみている。
- 推論事業者は、低いtoken当たりコストと将来のワークロードに対応するハードウェアの柔軟性を両立させる必要がある。
- メモリー帯域幅、容量、ストレージがアクセラレーターの利用率をますます制約している。
- ネットワークは分散型で低遅延が求められる推論の中核となり、複数の競合プロトコルを支える可能性がある。
- CXLはDDR4の有効寿命を延ばし、より高価なDDR5への依存を減らし得る。
- AWSによると、新たな導入手法はラックの立ち上げ期間を約9カ月から数週間へ短縮できる。
レポート解説
概要
UBSは2026年のAI Infrastructure Summitにおける議論をまとめ、AI投資は単なるコンピュート能力ではなく、システム全体の経済性によってますます左右されると論じる。レポートは、持続する推論需要、メモリーとネットワークの制約、競合する相互接続方式、CXL対応のメモリー構成、そして加速するチップ開発・導入サイクルを取り上げる。
主要見解
UBSはサミットから三つの総括的な結論を得た。個別のコンピュートアーキテクチャーに市場の関心が集まる中、NVIDIAの柔軟性とシステムレベルの専門性は過小評価されているように見えること、メモリーは依然として最大のボトルネックで改善していないこと、そしてAIツールがコンピュート設計サイクルを加速し、ハイパースケーラーによるASICソリューションの立ち上げを早めていることである。開発・導入の高速化がハイパースケーラーのASIC内製化までの期間を短縮するかどうかは不確実である。 推論需要は非常に強いままだが、事業者はより複雑な最適化問題に直面している。現行世代のモデルに対するtoken当たりコストを下げつつ、数年後に大きく異なる可能性のあるワークロードを支える十分なハードウェアの代替可能性を維持しなければならない。UBSは、短期的な最適化と長期的な柔軟性の間の緊張が、AIインフラ設計においてますます重要になっているとみる。サミットでは、Cerebras、SambaNova、Etchedによる新しいコンピュートソリューションも注目された。 レポートによると、最適化は単にアクセラレーターを増やすことから、システム全体を改善することへ移行している。メモリー帯域幅、メモリー容量、ストレージはアクセラレーターの十分な利用を妨げ得るため、コンピュートだけを追加しても価値は限定的となる。その結果生じる「メモリーウォール」はサミットで繰り返し取り上げられたテーマであり、対応策にはscale-upネットワークのスループット向上、低遅延化、新しいコンピュートアーキテクチャーが含まれる。 分散型で低遅延が求められる推論では、アクセラレーターとメモリー間のデータ移動の効率を左右するため、ネットワークはコンピュートとほぼ同等に重要になっている。より良いネットワークはアクセラレーター利用率を高め、token当たりコストを下げ得る。UBSがイベントで得た見解では、ハイパースケーラーは勝者総取りのscale-up市場ではなく、複数の選択肢とプロトコルを求めている。ESUNは、より短いヘッダーによってEthernetの従来の遅延問題の多くを解決しつつ、Ethernetのエコシステムと信頼性の利点を維持する、信頼できるscale-up代替案と説明された。NVLinkは最も成熟し信頼性の高い非Ethernet方式とみなされ、UALinkは新興の代替案とみなされた。GoogleはGCPでOCSソリューションを広く活用し続ける一方、特定の低遅延が求められる推論ワークロード向けにUALinkも評価しているとされたが、UBSは初期導入が特定用途向けの小規模なものになるとみている。 CXLは、新しいDDR5対応CPU向けシステムでDDR4の有効寿命を延ばす手段として浮上している。Metaは、サーバーの43%がメモリー制約を受け、カーボンフットプリントの69%がメモリーDIMMに関連すると述べた。一般的なDIMMのライフサイクルはCPUの少なくとも2倍長いため、CXL接続DDR4は、より高価なDDR5の必要量を減らし得る。CXLはローカルDIMMと比べて遅延を増やすものの、システムメモリーの約4分の1をCXL接続DDR4から割り当てれば、その遅延を実質的に隠して同等の性能を実現できる可能性があると議論された。UBSはこれを、事業者が単一部品ではなくシステム全体の経済性に基づいてAIインフラを最適化するもう一つの例と解釈している。 AIはチップの設計・導入サイクルも短縮している。AIツールは従来は順次進められていたエンジニアリング作業を並列化でき、設計期間を短縮するが、インフラスタック全体にはより速い製品サイクルを支える圧力がかかる。AWSは、コンピュートシリコンが利用可能になる前にラックを導入・テストし、コンピュートチップを実質的に最後の工程で組み込む手法を説明した。AWSによると、これにより従来の約9カ月の立ち上げを数週間に短縮できる。UBSは、これは高速化するAIチップロードマップの二次的な影響であり、シリコン設計とともにインフラ導入も加速する必要があるとみる。
分析フレームワーク
UBSはAI Infrastructure Summitでの議論と発表に基づき、推論の経済性、システムのボトルネック、ネットワークの代替案、メモリーアーキテクチャー、チップ導入の高速化という順に結論を構成している。技術的な観察を、アクセラレーター利用率、遅延、token当たりコスト、ハードウェアの柔軟性、システム全体の経済性への影響を通じて解釈している。
手法メモ
P/Eバリュエーション
UBSは、レポートで議論する企業の評価にP/Eを含む評価手法を用いると述べている。
EV/FCFバリュエーション
UBSはEV/FCFも用いるとしており、これは企業価値とフリーキャッシュフローを比較する手法で、レポートで議論する企業の評価に使われる。
資産マッピングと比較
投資テーゼから固有資産への構造化マッピング(強み、弱み、同業、リスク)。
- NVIDIA (NVDA)UBSは、個別のコンピュートアーキテクチャーへの注目の中で、その柔軟性とシステムレベルの専門性が過小評価されているとみる。
- 強み
- 柔軟性とシステムレベルの専門性。
- 比較
- NVLinkは最も成熟し信頼性の高い非Ethernetネットワーク選択肢とみなされ、代替案にはEthernetベースの方式とUALinkがある。
- Cerebras, SambaNova, EtchedAIインフラのエコシステムで注目が高まっている新興のコンピュートソリューション。
- 比較
- 既存のコンピュートアーキテクチャーに対する代替案の一つとして位置付けられる。
- ESUN信頼できるscale-upネットワークの代替案と説明されている。
- 強み
- より短いヘッダーがEthernetの従来の遅延問題を解決しつつ、Ethernetのエコシステムと信頼性の利点を維持するとされる。
- 比較
- NVLinkおよび新興のUALinkと競合し、UBSはこの市場が勝者総取りにはなりにくいとみる。
- UALink特定の低遅延が求められる推論ワークロード向けに評価されている新興ネットワーク代替案。
- 強み
- 特定の低遅延が求められるワークロードへの適合可能性。
- 弱み
- 初期導入は小規模で、特定用途向けとなる見込み。
- 比較
- NVLinkの成熟した非Ethernetとしての地位、およびGCPにおけるOCSの広範な利用と対照的である。
主要データ
- AI Infra Summitの参加者数~8,000 experts前年の規模から2倍超に増加。
- メモリー制約を受けるサーバー43%Metaが示した数値。
- メモリーDIMMに関連するカーボンフットプリントの比率69%Metaが示した数値。
- DIMMとCPUのライフサイクル比較At least 2x longer一般的なDIMMのライフサイクルはCPUと比較したもの。
- CXL接続DDR4の配分~1/4 of system memory増分遅延を隠しながら同等の性能を実現できると議論された小規模な配分。
- AWSのラック導入立ち上げ期間~9 months to several weeksコンピュートシリコンが利用可能になる前にラックを事前導入・テストすることで実現するAWS説明の短縮。
影響と示唆
UBSは、AIインフラの機会が、システム全体を最適化する能力によってますます形作られると論じる。コンピュート、メモリー、ストレージ、ネットワークが一体となって利用率を高め、token当たりコストを下げる必要がある。このことは、柔軟なシステムアーキテクチャー、多様なネットワークプロトコル、メモリー拡張手法、より速いチップロードマップに対応できる導入プロセスの重要性を示す。
リスク
- マクロ経済の悪化は、レポートで議論される企業に影響し得る。
- 国際貿易の混乱は、レポートで議論される企業に影響し得る。
- 新発明による技術的破壊は競争環境を変え得る。
- ビジネスモデルの革新と業界構造の変化は、販売数量、ASP、収益に影響し得る。
注目点
- ASICの設計と立ち上げの高速化が、ハイパースケーラーのASIC内製化までの期間を加速させるか。
- UALinkを低遅延が求められる推論ワークロードに用いることを含む、複数のscale-upネットワークプロトコルの採用。
- 性能を維持しつつDDR5の必要量を減らすためのCXL接続DDR4の導入程度。
- インフラ導入プロセスが、より速いAIチップロードマップに追随できるか。