Semiconductors and AI infrastructure研报解读

概览

这份Hot Chips 2026会议报告认为，智能体AI推理已成为半导体行业的核心设计要求，并将AI基础设施机会扩展至训练型加速器之外。JPMorgan仍看好多年期建设，并指出计算、定制ASIC、内存和网络领域的受益者。

核心观点

JPMorgan从Hot Chips 2026得出的核心结论是，智能体AI推理已取代训练优化，成为芯片设计的主要重点。多轮工作负载、更长上下文、混合专家模型、KV缓存管理和低延迟多芯片执行，使推理日益以解码为主并受制于内存带宽，而非主要依赖峰值FLOPS。SambaNova量化显示，若干前沿模型中75–97%的计算周期以解码为主；报告将此视为内存带宽利用率正成为推理吞吐量约束的证据。Google面向推理的TPU v8i为MoE延迟分配了更多片上SRAM，而Intel的Crescent Island采用LPDDR5x以强调内存容量。OpenAI同样强调延迟、每焦耳token和每次请求能耗，而非峰值FLOPS。因此，JPMorgan预计训练优化硅片与推理优化设计之间的分化将扩大：前者侧重峰值计算和大规模scale-up带宽，后者侧重容量、SRAM和低延迟互连。 定制硅片是第二项主要主题。OpenAI的Jalapeno是其首款内部设计的推理ASIC，与Broadcom共同开发；演讲显示，在AI辅助硬件/软件协同设计下，从初始RTL到tapeout约需9个月。JPMorgan预计后续及相邻项目将快速推进。报告将Jalapeno与Google TPU、Meta MTIA、Microsoft MAIA、SambaNova的SN50 RDU和Intel的Crescent Island并列，作为内部硅片持续推进的证据。然而，报告不认为ASIC会取代商用GPU：定制设计适合客户能够证明非经常性工程投入合理性的规模化、特征明确的工作负载，而Nvidia和AMD平台仍是更广泛生态系统的通用选择。JPMorgan指出，按其估计，商用GPU目前占AI加速器TAM逾85%，但预计未来数年商用GPU与定制XPU/ASIC的结构将趋向均衡。报告还提到OpenAI计划至2030年累计部署约12GW的Nvidia基础设施，表明定制和商用产能可以共存。 JPMorgan认为，AMD的Instinct MI400系列和Helios机架增强了其对Nvidia Vera Rubin竞争回应的可信度。Helios参考设计在每个机架72颗GPU上提供2.9 exaflops AI计算能力和31TB HBM4内存，与报告所述72-GPU Vera Rubin机架配置相匹配。JPMorgan强调MI455X的chiplet架构，以及其针对MoE推理和长上下文工作负载的更强HBM4容量与带宽特征。UALink128被视为NVLink的开放标准scale-up替代方案，而Helios将GPU、CPU、DPU和800G AI NIC整合为垂直整合堆栈。鉴于报告认为推理需求正快速扩张，它认为AMD有望从较低基数获取AI计算份额，尤其是在推理领域，但本报告未提供公司评级。 网络正成为AI基础设施中更广泛且更具差异化的部分。Nvidia通过BlueField-4引入“Scale-In Network”类别，用于连接GPU工作负载与存储、运行智能体的CPU、编排和安全设施，定位于scale-up NVLink与scale-out Spectrum-X以太网之间。JPMorgan认为，这扩展了Nvidia的网络堆栈，使其覆盖scale-up、scale-out、scale-across和scale-in。Broadcom的Thor Ultra 800G以太网NIC采用Enhanced RoCE功能，以解决AI集群中的可靠性、拥塞控制和多路径挑战，这支持报告关于以太网在scale-out和scale-across网络中重要性提升的观点。该机构认为AI网络是快速增长的TAM，Broadcom和Nvidia凭借垂直整合解决方案正在领先；随着集群规模和带宽需求扩大，Marvell、Astera Labs和MTSI也将受到带动。 Broadcom是JPMorgan分析中的跨领域受益者，因其参与Google TPU、OpenAI Jalapeno、Meta MTIA、SambaNova RDU和以太网网络。报告认为，这扩大了Broadcom在定制AI计算硅片和AI基础设施网络两方面的作用。HBM供应是共同的关键约束：报告提及的每项主要路线图均依赖HBM3E、HBM4或HBM4E，强化了JPMorgan对内存紧张将持续的预期。 JPMorgan认为，Intel的Diamond Rapids Xeon和Crescent Island推理GPU显示出架构进展，但报告仍认为执行风险较高。Diamond Rapids的3D Mesh和解耦设计围绕超大规模数据移动、处理和安全展开。Crescent Island面向智能体推理，配备480GB LPDDR5x、350W TDP和片上MoE投机解码加速。报告认为，最终竞争影响取决于路线图执行和进入2027年的客户承诺。

分析框架

JPMorgan综合会议演讲内容，以识别AI工作负载特征的变化，随后将这些变化与芯片架构、存储需求、定制硅片经济性和网络设计相联系。报告比较了各厂商披露的系统规格和设计选择，以评估潜在受益者及执行约束。

方法论与常识提炼

• 行业/产业分析框架供需框架

  HBM供需约束

  报告将主要AI路线图对HBM3E、HBM4和HBM4E的依赖视为内存供应仍是AI硅片部署限制因素的证据。

• 行业/产业分析框架产业链上中下游传导

  AI工作负载变化向计算、内存和网络组件传导

  报告将智能体推理工作负载需求与加速器架构、HBM需求、互连网络、NIC、光学组件及相关半导体供应商相联系。

标的映射与对比

研报将主题/逻辑映射到具体标的时的结构化摘要（优势、劣势、对比与风险）。

• Broadcom (AVGO)

  定制AI ASIC开发和基于以太网的AI网络的受益者。

  优势

  报告提及其参与Google TPU、OpenAI Jalapeno、Meta MTIA、SambaNova RDU及Thor Ultra以太网NIC。

  对比

  与Nvidia同被定位为领先的垂直整合AI网络厂商。

  风险

  HBM约束可能限制AI硅片部署速度。

• NVIDIA (NVDA)

  商用GPU和全栈网络的受益者。

  优势

  NVLink、Spectrum-X和BlueField-4覆盖scale-up、scale-out、scale-across和scale-in网络。

  劣势

  报告预计定制硅片将在一段时间内提升AI加速器TAM份额。

  对比

  AMD的Helios被定位为全系统替代方案，其72-GPU机架配置与Nvidia所述配置相匹配。

  风险

  定制ASIC扩张及HBM供应紧张。

• AMD (AMD)

  潜在的AI计算份额获取者，尤其是在推理领域。

  优势

  MI400/Helios结合HBM4、UALink128以及集成的GPU、CPU、DPU和AI NIC能力。

  劣势

  报告称其份额获取将从较低基数开始。

  对比

  被描述为对Nvidia Vera Rubin和NVLink生态系统的竞争性回应。

  风险

  竞争结果取决于执行和生态系统采用。

• Marvell Technology (MRVL)

  不断扩大的AI scale-out网络和定制ASIC需求的受益者。

  优势

  报告提及其定制scale-out硅片、DCI/DSP、相干光学及与Microsoft MAIA ASIC的合作。

  对比

  与Broadcom一样受益于以太网的采用。

• Astera Labs (ALAB)

  受益于更高的集群连接需求。

  优势

  报告提及其连接架构及PCIe/CXL retimer。

  对比

  属于更广泛的网络生态系统，而非商用NIC/DPU既有厂商。

• MTSI

  受益于AI集群带宽需求上升。

  优势

  报告提及其高速激光器和光学组件。

  对比

  参与支持更大规模集群的更广泛网络生态系统。

• Micron Technology (MU)

  持续HBM需求的受益者。

  优势

  HBM仍是所有主要AI硅片路线图的关键供应要求。

• SanDisk (SNDK)

  被JPMorgan列为AI基础设施建设的受益者。

关键数据

• 以解码为主的计算周期75–97%SambaNova所述的相关前沿模型占比。
• OpenAI Jalapeno开发周期~9 months根据演讲内容，从初始RTL到tapeout。
• 商用GPU占AI加速器TAM的份额>85%JPMorgan引用的当前份额；报告预计未来数年其与定制XPU/ASIC的结构将趋向均衡。
• AMD Helios AI计算能力2.9 exaflops每个机架72颗GPU。
• AMD Helios HBM4内存31TBHelios参考架构所述的机架级内存容量。
• Intel Crescent Island内存和功耗480GB LPDDR5x; 350W TDP其面向智能体推理GPU的重点规格。

影响与含义

JPMorgan认为，向智能体推理的转变将把半导体需求从训练型加速器扩展至定制ASIC、内存、网络接口、连接和光学组件。报告将AVGO、NVDA、AMD、MRVL、MTSI、ALAB、MU和SNDK列为持续AI基础设施建设的主要受益者。

风险

• HBM供应紧张可能限制AI硅片的可获得性和部署。
• Intel的竞争影响取决于路线图执行和进入2027年的客户承诺。

后续跟踪

• 定制XPU和ASIC部署相对于商用GPU需求的推进速度。
• 主要AI硅片路线图中HBM3E、HBM4和HBM4E的供应情况。
• AMD MI400和Helios的执行、UALink采用及推理市场份额提升。
• 以太网和Enhanced RoCE在AI scale-out和scale-across网络中的进一步采用。