High-bandwidth flash architecture, applications and technical milestones:HBF 或可在 AI 推理中补充 HBM,但商业化的技术可行性仍未得到验证
美国银行专家电话会议纪要认为,高带宽闪存(HBF)可为以读取为主的推理工作负载提供与 HBM 协同的容量层,而非取代 AI 训练中的 HBM。报告将 Sandisk 视为最直接的潜在受益者,但前提是技术执行成功。
摘要
美国银行专家电话会议纪要认为,高带宽闪存(HBF)可为以读取为主的推理工作负载提供与 HBM 协同的容量层,而非取代 AI 训练中的 HBM。报告将 Sandisk 视为最直接的潜在受益者,但前提是技术执行成功。
- HBF 被视为面向推理的 HBM 补充,而非训练内存的替代品。
- 初期用途是存储以读取为主的模型权重、KV 缓存、预填充数据和索引。
- 尚无量产可用设备提供功耗、带宽、延迟或耐久性的实测证据。
- 基于 PCIe 架构的初始高带宽闪存产品可能在 2027 年末推出。
- 控制器、加速器互连、散热管理、封装和客户认证是核心里程碑。
- 报告称 Sandisk 是最直接的 HBF 受益者,但强调其执行风险。
研报解读
概览
报告总结了一场关于高带宽闪存(HBF)及其在 AI 内存层级中潜在角色的专家讨论。核心结论是,HBF 可为混合推理系统增加高容量、非易失性存储,而 HBM 仍是低延迟计算和训练的关键;商业化时间表和经济性仍不确定。
核心观点
报告将 HBF 定义为一种基于 NAND 的技术尝试:通过并行化闪存器件以实现显著更高的带宽,其总体理念与 HBM 对 DRAM 的并行化相似。但报告并不认为 HBF 会在模型训练中取代 HBM。训练需要频繁更新权重,而 NAND 的写入性能和写入耐久性显著弱于 HBM。HBM 已在高带宽、低延迟处理和频繁权重更新中得到验证,并应继续在以高性能生成 AI 输出方面保持核心作用。 更可能的切入点是混合式 AI 推理。在这种架构中,HBM 仍是用于低延迟计算和输出生成的高速层,而 HBF 可为模型权重、KV 缓存、预填充数据和索引等相对以读取为主的内容提供更大容量。随着模型规模和上下文需求超过可用 HBM 容量,混合专家模型和稠密模型都可能受益。报告强调,即使在推理中仍需要 HBM,因为最终计算和快速输出生成依赖于它;潜在价值来自 HBM/HBF 组合内存层级,而非仅使用 HBF 的系统。 分析指出,拟议的 HBF 性能目前主要仍是假设性的。没有可工作的设备让投资者能够衡量实际功耗、散热极限、带宽、延迟、可靠性或成本。基于目标规格的模拟结果表明,混合系统可能在特定推理场景中具备优势,但这些结果不能等同于量产证据。专家认为功耗、散热、写入耐久性、控制器设计和可实现带宽是相互关联的障碍,同时还需要控制器算法和纠错机制来解决 NAND 特有的磨损和可靠性问题。 架构选择可能影响开发路径。专家将 Samsung、SK Hynix 和 Kioxia 描述为采用更渐进的路线,最初通过基于 PCIe 的设计提高带宽,其中 PCIe 6.0 相较 PCIe 5.0 提供升级。Sandisk 的方案被描述为更长期、更具雄心的接口概念,可能接近 DDR 级带宽并进一步演进。报告认为 Sandisk 的标准化主机接口工作方向积极,但指出更广泛采用仍需证明控制器功能、加速器集成、散热管理、可制造封装和客户认证。 预期产品时间表仍将是渐进式的。专家预计,基于 PCIe 的初始高带宽闪存产品可能在 2027 年后期出现,而高度集成的 HBF 实现需要更长的工程和认证周期。关键商业化测试包括与 PCIe 6.0 集成的 HBF 控制器,以及随后与 NVLink 等加速器互连的集成。若某种接口能让 HBF 参与由 NVLink 连接的内存系统,它可能成为一个更具功能性的额外内存层,但仍有自身限制。封装也是重要问题,因为将闪存置于高功耗计算附近必须避免不可承受的散热、良率和成本权衡;现有中介层方案被认为成本较高。 更长期看,报告认为 HBF 除服务器外还可能应用于 PC、游戏设备、机器人、工业自动化,以及最终的智能手机。非易失性 HBF 可在无需持续 DRAM 刷新的情况下保留模型、本地上下文和应用状态,可能改善恢复速度、降低待机功耗,并支持更强的端侧推理。边缘 AI 本身可能在 2027 年初开始加速采用,即使初始周期并不需要 HBF;而 HBF 更大的长期机会可能出现在面向消费者的边缘设备。专家预计笔记本电脑和台式机可能是早于手机进行边缘试验的平台,但在缺乏功耗和性能保持证据的情况下,仍不愿预测手机采用。 在股票层面,报告将 Sandisk 认定为最直接的 HBF 受益者,前提是技术执行成功。其 $2,500 目标价基于约 10x C27E EPS 的 $255,与全球存储器同行平均估值倍数一致,理由是盈利能力相似。
分析框架
报告通过专家访谈比较 HBF 与现有 HBM、DRAM 和 SSD 内存层级,随后按工作负载类型、技术限制、架构选择、开发里程碑和潜在终端市场评估 HBF。报告区分了基于模拟的预测与实测量产证据,并将技术讨论与 Sandisk 的潜在受益联系起来。
方法论与常识提炼
专家访谈与技术架构评估
报告依据专家对 AI 内存架构的评估,将 HBF 拟议的能力和限制与 HBM 进行比较,并评估商业化所需的硬件里程碑。
基于盈利倍数的目标价估值
对于 Sandisk,报告以约 10x C27E EPS 的 $255 为基础得出 $2,500 目标价,并以盈利能力相近的全球存储器同行作为比较基准。
标的映射与对比
研报将主题/逻辑映射到具体标的时的结构化摘要(优势、劣势、对比与风险)。
- Sandisk Corporation (SNDK)若其技术执行成功,报告将其认定为 HBF 最直接的受益者。
- 优势
- 报告认为其标准化主机接口工作方向积极,并提及其更具雄心的长期 HBF 架构。
- 劣势
- 其拟议方案面临大量尚未解决的工程和商业化要求。
- 对比
- Samsung、SK Hynix 和 Kioxia 被描述为采取更渐进的 PCIe 路线,而 Sandisk 则在推进更长期的接口方案。
- 风险
- HBF 的采用需要证明控制器功能、加速器集成、散热管理、可制造封装和客户认证;另有明确风险包括 NAND 供过于求、中国竞争、AI 赋能消费产品采用慢于预期以及 eSSD 市场份额流失。
关键数据
- 初始 HBF 产品时间Latter part of 2027预计基于 PCIe 架构的初始高带宽闪存产品将在此期间推出。
- 边缘 AI 采用时间Early 2027专家预计更广泛的边缘 AI 采用将开始加速,但 HBF 并非初始周期的必要条件。
- 拟议 HBF 容量Up to 2TB作为拟议容量水平被提及;更大的模型、预填充数据和上下文需求可能需要额外的架构机制。
- Sandisk 目标价$2,500基于约 10x C27E EPS 的 $255。
- Sandisk 估值倍数Approximately 10x C27E EPS报告称该水平因盈利能力相似而与全球存储器同行的平均水平一致。
- Sandisk C27E EPS$255用于报告目标价方法的盈利输入。
影响与含义
报告认为,HBF 可扩展 AI 推理系统可用的有效内存容量,并最终通过非易失性本地存储改善边缘设备功能。其近期相关性不在于广泛替代 HBM,而在于混合架构能否证明具有可接受的功耗、延迟、带宽、耐久性、可靠性和成本。
风险
- HBF 可能无法在真实工作负载中达到所需的功耗、散热、带宽、延迟、写入耐久性、可靠性或成本目标。
- 控制器开发、加速器集成、封装挑战和客户认证可能推迟商业化采用。
- NAND 价格因供过于求而大幅下跌可能对 Sandisk 构成压力。
- 包括 YMTC 在内的中国 NAND 供应商竞争和扩产可能加大压力。
- AI 赋能消费产品的采用可能慢于预期。
- Sandisk 可能失去 eSSD 市场份额。
后续跟踪
- 集成 PCIe 6.0 的 HBF 控制器发布。
- HBF 控制器能否与 NVLink 等加速器互连接口的证据。
- 有关功耗、热行为、带宽、延迟、耐久性和可靠性的量产实测数据。
- 适合将闪存置于高功耗计算附近的低成本、可制造封装进展。
- 混合 HBM/HBF 推理系统的客户认证和部署。
- 初始 PCIe 高带宽闪存产品在 2027 年后期出现。