AI infrastructure and data center demand:9月 token 支出加速支撑 AI 基础设施需求,但 GPU 租赁与内存定价走势分化
J.P. Morgan称,随着使用量上升,OpenRouter的 token 支出在9月显著加速,尤其是开放权重模型。与此同时,A100和H100租赁费率下行、内存现货价格动能停滞,令定价环境更趋分化。
摘要
J.P. Morgan称,随着使用量上升,OpenRouter的 token 支出在9月显著加速,尤其是开放权重模型。与此同时,A100和H100租赁费率下行、内存现货价格动能停滞,令定价环境更趋分化。
- OpenRouter token 支出9月环比增长28%,同比增长14倍。
- Token 使用量环比增长71%、同比增长30倍,而成交量加权 token 定价环比下降25%。
- A100和H100租赁价格环比分别下降2.8%和2.6%;B200定价环比上涨1.3%。
- DDR5 16Gb现货价格环比下降1%,但仍较一年前高614%。
- NAND 1Tb价格环比基本持平,同比高470%。
研报解读
概览
本期Data Center Watch通过LLM token活动、非超大规模云厂商GPU租赁定价和内存现货价格追踪AI基础设施需求。J.P. Morgan发现,9月token支出和使用量显著走强,但硬件服务与内存价格信号并未一致上行。
核心观点
J.P. Morgan的核心结论是,AI基础设施需求在9月保持强劲,主要由LLM token支出的显著加速带动。其OpenRouter跟踪数据显示,token使用量环比增长71%,高于8月的47%和7月的18%,同比增长30倍。平均token定价环比上涨4%、同比上涨20%,推动整体token支出环比增长28%、同比增长14倍,而7月和8月的环比增速均为7%。报告将支出加速解读为需求强劲的证据,但也指出定价表现很大程度上取决于模型组合。 成交量加权平均token定价环比下降25%、同比下降55%。报告将此归因于更便宜的高使用量新模型占比上升,以及同一模型的价格压缩。DeepSeek V4.1 Flash和GLM 5.3 Flash合计新增约41万亿token,占总使用量的30%,且价格低于此前的开放权重模型平均水平。报告还提及Kimi K3、GLM 5.3和GPT-5.6 Sol的价格压缩。开放权重模型使用量环比增长83%、同比增长101倍,显著快于封闭权重模型39%的环比增长和10倍的同比增长。开放权重模型因此在跟踪使用量中的重要性上升,而封闭权重模型占token使用量的27%,却占支出的72%。 报告区分了使用量领先和支出领先的模型。按token使用量计,9月前五大模型为DeepSeek V4.1 Flash、GLM 5.3 Flash、Tencent’s Hy4 preview、GPT-5.6 Luna和DeepSeek V4 Flash,合计占总使用量超过53%,高于8月的超过50%。按支出计,领先模型为GPT-6 Astra、Tencent’s Hy4 preview、Claude Fable 5.1、Claude Opus 5和GPT-5.6 Sol,合计占支出的50%,高于8月的48%。两份前五榜单中仅有一个模型重叠,反映高使用量活动与支出由不同模型组合驱动。 J.P. Morgan提示,其LLM跟踪器是每月一次、为期一周的样本,覆盖OpenRouter上约300个模型。OpenRouter通过单一端点汇总API访问,但其流量偏向开发者、初创企业和agentic-coding用例,并不包括直接OpenAI或Anthropic使用等第一方API流量,也不包括超大规模云厂商托管端点。因此,该跟踪器被定位为部分LLM市场趋势的指标,而非全部模型使用量的完整衡量。 GPU租赁定价提供了不那么一致的需求信号。根据Bloomberg针对非超大规模云厂商容量的指数,A100租赁价格在9月平均为$1.59 per GPU-hour,环比下降2.8%;H100平均为$2.64 per GPU-hour,环比下降2.6%。不过,H100与A100的价格比从8月的1.65x小幅升至1.66x。B200租赁价格在8月下跌后于9月环比反弹1.3%,至$5.70 per GPU-hour,其相对H100的溢价从2.08x升至2.16x。因此,较早一代GPU的租赁价格走弱,而B200价格温和回升,并维持明显更高的定价层级。 内存现货价格趋势在此前上涨后也出现停滞。DDR5 16Gb现货价格9月环比下跌1%,至$49.70,此前已连续五个月上涨;但该价格仍较2025年9月的$6.96高614%。NAND 1Tb现货价格基本持平,环比上涨0.1%至$30.54,但仍较一年前的$5.36高470%。因此,报告认为内存定价的环比上行动能不再加速,尽管同比涨幅仍然极高。
分析框架
报告结合三类月度指标:OpenRouter中LLM token使用量、定价和支出的一周样本;Bloomberg非超大规模云厂商GPU租赁费率指数;以及Bloomberg内存现货价格数据。其比较环比和同比变化,区分开放权重与封闭权重模型,并通过价格和使用量组合解释token支出的变化。
方法论与常识提炼
OpenRouter token使用量、定价和支出的月度跟踪器
J.P. Morgan每月对OpenRouter约300个模型进行为期一周的抽样,以跟踪使用量、平均价格、成交量加权价格和支出的变化。报告指出,该样本不包括直接第一方API和超大规模云厂商托管API的使用量。
利用使用量、平均价格和成交量加权定价分析token支出
报告通过拆分token使用量增长和定价效应来解释支出增长。高使用量、低价格的开放权重模型降低了成交量加权价格,尽管平均token价格上升。
将GPU租赁和内存现货价格作为AI基础设施需求指标
报告利用GPU租赁费率以及DRAM和NAND现货价格的环比变化,评估重要AI基础设施投入品的定价环境是在走强还是走弱。
关键数据
- OpenRouter token使用量增长+71% m/m; 30x y/y9月增速较8月的+47% m/m进一步加快。
- OpenRouter token支出增长+28% m/m; 14x y/y相比7月和8月均为+7% m/m。
- 成交量加权token定价-25% m/m; -55% y/y受更便宜的模型组合和同模型价格压缩影响而下降。
- A100租赁价格$1.59 per GPU-hour; -2.8% m/m9月非超大规模云厂商的平均租赁费率。
- H100租赁价格$2.64 per GPU-hour; -2.6% m/mH100与A100价格比达到1.66x。
- B200租赁价格$5.70 per GPU-hour; +1.3% m/mB200与H100价格比从8月的2.08x升至2.16x。
- DDR5 16Gb现货价格$49.70; -1% m/m; +614% y/y连续五个月上涨后首次环比下跌。
- NAND 1Tb现货价格$30.54; +0.1% m/m; +470% y/y在上月上涨后环比基本持平。
影响与含义
报告认为,token支出加速支持AI基础设施需求持续强劲,尤其是在开放权重模型使用量快速扩张的背景下。同时,A100和H100租赁费率下跌,以及内存价格环比动能停滞,表明基础设施定价环境仍不均衡,而非全面加速。
风险
- OpenRouter样本偏向开发者、初创企业和agentic-coding流量,且不包括直接第一方和超大规模云厂商托管API使用量,因此对整体LLM需求的代表性有限。
后续跟踪
- 9月加速后,token使用量和token支出增长能否维持高位。
- 开放权重和封闭权重模型的使用量及支出结构是否持续变化。
- A100、H100和B200 GPU租赁价格的环比走势。
- DDR5和NAND现货价格是恢复环比上涨,还是维持持平至下行。