Token用量推动AI支出继续增长,存储价格上行,但GPU租赁价格出现分化
AI 摘要卡
Token用量推动AI支出继续增长,存储价格上行,但GPU租赁价格出现分化
摩根大通的8月数据表明,OpenRouter的Token用量环比增长47%,带动支出环比增长7%;DRAM与NAND现货价格显著上涨。GPU端则表现不一,H100价格回升,而B200出现逾六个月来的首次环比下降。
- 8月Token用量环比增长47%、同比达到28倍,Token支出环比增长7%、同比达到12倍。
- 折扣和低成本模型采用使Token量加权价格环比下降28%、同比下降56%。
- H100租赁价格环比上涨1.2%,B200环比下降1.5%,后者为逾六个月首次回落。
- DDR5 16Gb现货价格升至50.20美元,环比上涨6%、同比上涨880%。
- NAND 1Tb现货价格升至30.50美元,环比上涨14%、同比上涨470%。
研报解读
概览
报告通过OpenRouter的LLM使用与定价样本、非超大规模云厂商GPU租赁价格以及DRAM和NAND现货价格,观察8月AI基础设施需求。结论是整体需求趋势仍然积极:Token支出和存储价格继续上行,但GPU租赁价格因型号不同而分化。
核心观点
报告首先从LLM Token活动判断AI基础设施需求。其追踪器每月截取一周数据,覆盖OpenRouter平台上约300个LLM。8月Token用量在7月放缓后重新加速,环比增长47%,高于7月的18%,但低于6月的70%;同比达到28倍,7月和6月分别为21倍和20倍。闭源权重模型占总用量33%,高于7月的29%、与6月的33%持平;其用量环比增长66%,而7月和6月分别为3%和34%,同比达到14倍。开放权重模型用量环比增长39%,7月和6月分别为26%和97%;同比达到56倍,低于7月的63倍和6月的74倍。 用量增长同时伴随价格下降。8月平均Token价格环比下降5%,7月为下降3%、6月为上涨7%;同比则增长5%,较7月的2%和6月的-5%有所改善。更能反映实际模型组合的量加权价格环比下降28%、同比下降56%,主要原因包括GPT-5.6 Sol降价50%、GPT-5.6 Luna降价80%,以及低成本模型得到大量采用。Tencent Hy3、DeepSeek v4 Flash-0731和GPT-5.6 Luna合计贡献了约99%的环比Token增量。开放权重模型的量加权价格环比下降17%,而7月和6月分别上涨36%和12%;同比仍上涨60%。闭源权重模型的量加权价格环比下降37%,同比下降29%,均明显弱于此前月份。 尽管价格下降,强劲的用量扩张仍推动Token支出增长。8月总支出环比增长7%,与7月相同,低于6月的70%;同比达到12倍,7月和6月分别为11倍和16倍。闭源权重模型占总支出的78%,低于7月的80%和6月的88%;其支出环比增长4%、同比达到10倍。开放权重模型支出环比增长16%,较7月的71%和6月的120%明显放缓,但同比仍达到89倍。由此可见,开放权重模型贡献了更快的用量扩张,而高价闭源模型仍占据绝大部分支出。 模型排名进一步体现了用量与收入结构的差异。按Token用量排名,8月前五位依次为DeepSeek v4 Flash-0731、Tencent Hy3、MiMo v2.5、GPT-5.6 Luna和DeepSeek v4 Flash,合计占总用量50%以上;按Token支出排名,前五位则为Claude Opus 5、Kimi K3、Claude Opus 4.7、GPT-5.6 Sol和Claude Fable 5,合计占总支出48%。两组前五名没有重合,说明低成本模型主导用量,而较高定价模型仍主导支出。 GPU租赁价格呈现型号分化。非超大规模云厂商市场中,A100的8月平均租赁价格为每GPU小时1.65美元,环比持平,7月和6月分别上涨0.9%和6.4%。H100价格为每GPU小时2.73美元,环比回升1.2%,此前7月下降0.6%、6月上涨3.5%;H100与A100的价格比为1.65倍,7月和6月分别为1.64倍和1.66倍。B200价格为每GPU小时5.63美元,环比下降1.5%,为逾六个月首次环比下跌,此前7月和6月分别上涨7.2%和2.7%。B200与H100的价格比降至2.06倍,低于7月的2.12倍,但高于6月的1.97倍,并显著低于2025年9月指数推出前后的2.58倍。 存储价格则释放出更一致的上行信号。DDR5 16Gb现货价格8月升至50.20美元,较7月的47.00美元环比上涨6%,较2025年8月的5.09美元同比上涨880%;这是继2月和3月小幅环比下跌后连续第五个月上涨,报告概括为同比上涨超过8倍。NAND 1Tb现货价格升至30.50美元,较7月的26.90美元环比上涨14%,较2025年8月的5.29美元同比上涨470%;这是经历连续四个月小幅下跌后首次恢复增长,报告概括为同比上涨超过4倍。综合来看,Token支出扩张和存储价格上行支持积极的AI基础设施需求判断,而B200租赁价格回落显示不同算力产品的定价动能并不一致。
分析框架
报告依次分析AI应用活动、算力租赁和存储价格:先把Token支出拆分为用量与价格,比较总体、开放权重及闭源权重模型的环比和同比变化;再用不同GPU型号的租赁价格及价差比观察非超大规模云厂商算力市场;最后以DRAM和NAND现货价格判断存储需求与定价趋势,并将三组指标合并形成对AI基础设施需求环境的判断。
方法论与常识提炼
Token支出的用量与价格拆分
报告分别追踪Token用量、平均价格、量加权价格和总支出,以判断支出增长究竟来自使用量扩张还是单位价格变化。
GPU租赁和存储现货价格的供需信号
报告把GPU租赁价格以及DRAM、NAND现货价格作为算力和存储市场供需状况的观察指标,并比较不同产品的价格方向与强弱。
OpenRouter单周月度快照追踪
追踪器每月抽取一周数据,覆盖OpenRouter上约300个LLM,用于形成月度使用量和定价趋势快照;样本偏向开发者、初创企业及智能体编程流量,且不包含模型厂商和超大规模云平台的第一方API用量。
关键数据
- 8月Token用量+47% m/m,28x y/y环比增速由7月的18%重新加速;同比由7月的21倍升至28倍。
- 8月平均Token价格-5% m/m,+5% y/y环比继续下降,但同比增速较7月的2%改善。
- 8月量加权Token价格-28% m/m,-56% y/y主要受到模型大幅降价和低成本模型采用增加影响。
- 8月Token支出+7% m/m,12x y/y用量扩张抵消了量加权价格下降。
- 闭源权重模型支出占比78%低于7月的80%和6月的88%。
- A100平均租赁价格$1.65/GPU-hour8月环比持平。
- H100平均租赁价格$2.73/GPU-hour8月环比上涨1.2%,H100/A100价格比为1.65x。
- B200平均租赁价格$5.63/GPU-hour8月环比下降1.5%,为逾六个月首次环比下跌;B200/H100价格比为2.06x。
- DDR5 16Gb现货价格$50.208月环比上涨6%、同比上涨880%,连续第五个月环比上涨。
- NAND 1Tb现货价格$30.508月环比上涨14%、同比上涨470%,结束连续四个月环比下跌。
影响与含义
报告认为,Token用量的快速扩张足以在价格下降的情况下继续推动支出增长,说明AI模型使用需求仍具韧性;同时,DRAM和NAND现货价格上涨强化了存储需求与定价环境改善的信号。不过,B200租赁价格首次环比回落且相对H100的溢价收窄,表明GPU定价趋势因产品代际而异,不能将整体需求改善等同于所有算力产品同步涨价。
风险
- OpenRouter数据偏向开发者、初创企业和智能体编程流量,且不包含OpenAI、Anthropic等第一方API及超大规模云平台托管端点的用量,因此样本不能代表全部LLM市场。
后续跟踪
- 继续观察Token用量增长能否抵消平均价格和量加权价格下降,使Token总支出保持增长。
- 关注开放权重与闭源权重模型在用量、定价和支出份额上的变化。
- 跟踪B200租赁价格是否继续下降,以及B200/H100和H100/A100价格比的变化。
- 观察DRAM能否延续连续月度上涨,以及NAND在结束四个月回落后能否保持增长。