Semiconductors and AI infrastructure レポート解説

概要

このHot Chips 2026会議レポートは、エージェント型AI推論が半導体業界における中心的な設計要件となり、AIインフラの機会をトレーニング中心のアクセラレータ以外にも広げると論じる。JPMorganは複数年にわたる構築に対して建設的な見方を維持し、コンピュート、カスタムASIC、メモリー、ネットワークの受益者を特定している。

主要見解

JPMorganがHot Chips 2026から導いた中心的な結論は、エージェント型AI推論がトレーニング最適化に代わり、チップ設計の主要な焦点となったことである。マルチターンのワークロード、長いコンテキスト、Mixture-of-Expertsモデル、KVキャッシュ管理、低遅延のマルチチップ実行により、推論はピークFLOPSへの依存よりも、デコード中心かつメモリー帯域幅制約型になりつつある。SambaNovaは、複数のフロンティアモデルにおける計算サイクルの75–97%がデコード中心であると定量化しており、レポートはこれを、メモリー帯域幅利用率が推論スループットの制約になりつつある証拠とみなす。Googleの推論向けTPU v8iはMoEレイテンシー対応のためオンチップSRAMを大幅に増やし、IntelのCrescent Islandはメモリー容量を重視してLPDDR5xを採用する。OpenAIもピークFLOPSではなく、レイテンシー、ジュール当たりトークン、リクエスト当たりエネルギーを提示した。従ってJPMorganは、ピーク演算能力と大規模scale-up相互接続帯域幅を重視するトレーニング最適化シリコンと、容量、SRAM、低遅延ファブリックを重視する推論最適化シリコンとの分化が進むと予想している。 カスタムシリコンは第2の主要テーマである。Broadcomとの共同開発によるOpenAIのJalapenoは、推論ワークロード向けの同社初の内製ASICであり、AI支援のハードウェア／ソフトウェア協調設計により、初期RTLからテープアウトまで約9か月で進んだと提示された。JPMorganは後継プログラムと周辺シリコンプロジェクトが速いペースで続くと予想する。レポートは、JalapenoをGoogle TPU、Meta MTIA、Microsoft MAIA、SambaNovaのSN50 RDU、IntelのCrescent Islandと並べ、内製シリコン拡大の証拠としている。ただし、ASICが商用GPUを置き換えるとはみていない。カスタム設計は、顧客がNREを正当化できる、規模があり特性が明確なワークロードに適する一方、NvidiaとAMDのプラットフォームは、あらゆるモデルを動かせる汎用的な基盤として広範なエコシステムに対応する。JPMorganによれば、商用GPUは現在AIアクセラレータTAMの85%超を占めるが、今後数年で商用GPUとカスタムXPU/ASICの構成比は均衡に向かう見通しである。また、OpenAIが2030年までに累計約12GWのNvidiaインフラを導入する計画を示している点は、カスタムと商用のキャパシティが共存し得ることの証拠とされる。 AMDのInstinct MI400シリーズとHeliosラックは、NvidiaのVera Rubinに対する競争的な回答の信頼性を高めたと評価された。Heliosのリファレンスアーキテクチャは、ラック当たり72GPUで2.9 exaflopsのAI演算能力と31TBのHBM4メモリーを提供し、Nvidia Vera Rubinの72-GPUラック構成と一致する。JPMorganは、MoE推論や長いコンテキストのエージェント型ワークロードにおいて、MI455Xのチップレットアーキテクチャと、強化されたHBM4容量・帯域幅プロファイルを強調する。UALink128はNVLinkに代わるオープンスタンダードのscale-upファブリックとして位置付けられ、HeliosラックはGPU、CPU、DPU、800G AI NICを統合している。推論ワークロードが加速するという見方を踏まえ、JPMorganはAMDが低い基盤から、特に推論でAIコンピュートの市場シェアを獲得する好位置にあると考えるが、本レポートで企業評価は示していない。 ネットワークはAIインフラの中で、より広く、より差別化された領域になりつつある。NvidiaはBlueField-4を通じ、GPUワークロードをストレージ、エージェントを実行するCPU、オーケストレーション、セキュリティに接続するための「Scale-In Network」という新たなカテゴリーを導入した。これは従来のscale-upであるNVLinkとscale-outであるSpectrum-X Ethernetの間に位置する。JPMorganは、これによりNvidiaのネットワークスタックがscale-up、scale-out、scale-across、scale-inに拡張されたとみる。BroadcomのThor Ultra 800G Ethernet NICは、AIのトレーニングと推論における信頼性、輻輳制御、マルチパスの課題を解決するEnhanced RoCE機能を備え、EthernetがAIのscale-outおよびscale-acrossファブリックで重要性を増しているとの見方を支持する。同社はAIネットワークを急拡大するTAMと捉え、BroadcomとNvidiaが垂直統合ソリューションで先行し、クラスター規模と帯域幅要件の拡大によりMarvell、Astera Labs、MTSIにも波及効果があると考える。 BroadcomはGoogle TPU、OpenAI Jalapeno、Meta MTIA、SambaNova RDU、Ethernetネットワークへの関与により、JPMorganの分析における横断的な受益者となっている。レポートは、これがカスタムAIコンピュートシリコンとAIインフラネットワークの両方におけるBroadcomの役割を拡大するとみる。HBM供給は共通の重要制約であり、言及された全ての主要ロードマップがHBM3E、HBM4、HBM4Eに依存しているため、JPMorganの長期的なメモリー逼迫見通しを補強する。 IntelのDiamond Rapids XeonとCrescent Island推論GPUは、JPMorganの見方ではアーキテクチャ上の進展を示すが、レポートは実行リスクが依然として高いとする。Diamond Rapidsの3D Meshと分離型設計は、ハイパースケールでのデータ移動、処理、保護を中心に位置付けられる。Crescent Islandは480GB LPDDR5xメモリー、350W TDP、オンチップMoE投機的デコード加速を備え、エージェント型推論向けに設計されている。レポートは、最終的な競争への影響は2027年に向けたロードマップの実行と顧客コミットメントに依存すると考えている。

分析フレームワーク

JPMorganは会議プレゼンテーションを統合し、AIワークロード特性の変化を特定したうえで、その変化をチップアーキテクチャ、メモリー需要、カスタムシリコンの経済性、ネットワーク設計に結び付けている。開示されたシステム仕様と各社の設計選択を比較し、潜在的な受益者と実行上の制約を評価している。

手法メモ

• 業界・産業分析フレームワーク需給フレームワーク

  HBMの需給制約

  レポートは、主要AIロードマップがHBM3E、HBM4、HBM4Eに依存していることを、メモリー供給がAIシリコン導入の制約であり続ける証拠として扱う。

• 業界・産業分析フレームワーク産業チェーンの上流・中流・下流波及

  AIワークロード変化のコンピュート、メモリー、ネットワーク部品への波及

  レポートは、エージェント型推論のワークロード要件を、アクセラレータアーキテクチャ、HBM需要、相互接続ファブリック、NIC、光学部品、関連半導体サプライヤーに結び付ける。

資産マッピングと比較

投資テーゼから固有資産への構造化マッピング（強み、弱み、同業、リスク）。

• Broadcom (AVGO)

  カスタムAI ASICの開発とイーサネットベースのAIネットワークの受益者。

  強み

  Google TPU、OpenAI Jalapeno、Meta MTIA、SambaNova RDU、Thor Ultra Ethernet NICへの関与が挙げられている。

  比較

  Nvidiaと並び、垂直統合型AIネットワークの主要既存企業として位置付けられている。

  リスク

  HBMの制約がAIシリコン導入のペースを制限する可能性がある。

• NVIDIA (NVDA)

  商用GPUとフルスタックネットワークの受益者。

  強み

  NVLink、Spectrum-X、BlueField-4は、scale-up、scale-out、scale-across、scale-inネットワークをカバーする。

  弱み

  カスタムシリコンは時間の経過とともにAIアクセラレータTAMにおけるシェアを高めると予想されている。

  比較

  AMDのHeliosは、Nvidiaが示した72-GPUラック構成に一致するフルシステム代替案として位置付けられている。

  リスク

  カスタムASICの拡大とHBM供給の逼迫。

• AMD (AMD)

  特に推論において、AIコンピュートのシェア獲得候補。

  強み

  MI400/HeliosはHBM4、UALink128、統合されたGPU、CPU、DPU、AI NIC機能を組み合わせる。

  弱み

  レポートは、シェア獲得が低い基盤から始まると述べている。

  比較

  NvidiaのVera RubinおよびNVLinkエコシステムに対する競争的な回答として示されている。

  リスク

  競争上の成果は実行力とエコシステムの採用に左右される。

• Marvell Technology (MRVL)

  拡大するAI scale-outネットワークとカスタムASIC需要の受益者。

  強み

  カスタムscale-outシリコン、DCI/DSP、コヒーレント光学、Microsoft MAIA ASICとの提携が挙げられている。

  比較

  Broadcomと同様にイーサネット採用の恩恵を受ける。

• Astera Labs (ALAB)

  高まるクラスター接続性需要の受益者。

  強み

  接続ファブリックとPCIe/CXLリタイマーが挙げられている。

  比較

  商用NIC/DPUの既存企業ではなく、より広範なネットワークエコシステムの一部。

• MTSI

  AIクラスターの帯域幅需要拡大の受益者。

  強み

  高速レーザーと光学部品が挙げられている。

  比較

  より大規模なクラスターを支える広範なネットワークエコシステムに参加している。

• Micron Technology (MU)

  持続するHBM需要の受益者。

  強み

  HBMは主要AIシリコンの全ロードマップで重要な供給要件として残る。

• SanDisk (SNDK)

  JPMorganがAIインフラ構築の受益者として挙げた。

主要データ

• デコード中心の計算サイクル75–97%SambaNovaが言及したフロンティアモデル全体で示した比率。
• OpenAI Jalapenoの開発サイクル~9 monthsプレゼンテーションによる初期RTLからテープアウトまでの期間。
• AIアクセラレータTAMにおける商用GPUのシェア>85%JPMorganが示した現在のシェア。レポートは、今後数年でカスタムXPU/ASICとの構成比が均衡に向かうと予想している。
• AMD HeliosのAI演算能力2.9 exaflopsラック当たり72GPU。
• AMD HeliosのHBM4メモリー31TBHeliosリファレンスアーキテクチャで示されたラックレベルのメモリー容量。
• Intel Crescent Islandのメモリーと消費電力480GB LPDDR5x; 350W TDPエージェント型推論向けGPUで強調された仕様。

影響と示唆

JPMorganは、エージェント型推論への移行が、半導体需要をトレーニング中心のアクセラレータからカスタムASIC、メモリー、ネットワークインターフェース、接続性、光学部品へと広げるとみる。AVGO、NVDA、AMD、MRVL、MTSI、ALAB、MU、SNDKを、継続するAIインフラ構築の主要受益者として挙げている。

リスク

• HBM供給の逼迫がAIシリコンの供給可能性と導入を制約する可能性がある。
• Intelの競争への影響は、2027年に向けたロードマップ実行と顧客コミットメントに依存する。

注目点

• カスタムXPUおよびASIC導入が商用GPU需要に対して進むペース。
• 主要AIシリコンロードマップにおけるHBM3E、HBM4、HBM4Eの供給可能性。
• AMD MI400とHeliosの実行、UALinkの採用、推論市場でのシェア獲得。
• AI scale-outおよびscale-acrossネットワークにおけるEthernetとEnhanced RoCEのさらなる採用。