AI infrastructure and data center demand: 9월 토큰 지출은 크게 가속됐지만 GPU 대여와 메모리 가격은 AI 인프라에 대해 더 엇갈린 신호를 보였다.

개요

JPMorgan은 LLM 토큰 활동, 비하이퍼스케일러 GPU 대여, 메모리 현물가격의 월간 지표를 통해 AI 인프라 수요를 추적한다. 9월 수치는 토큰 수요가 강하고 가속되고 있음을 보여주지만, 컴퓨팅 대여와 메모리 시장의 가격 지지는 일관되지 않다.

핵심 견해

JPMorgan의 9월 Data Center Watch는 최신 토큰 지출 데이터가 AI 인프라 수요의 강세를 계속 뒷받침하지만, GPU 대여와 메모리 현물가격 추세는 더 엇갈린다고 주장한다. 보고서의 LLM Token Tracker는 OpenRouter에 등록된 약 300개 모델의 사용량과 가격 데이터 중 매월 1주일분 스냅샷을 사용한다. 이 데이터셋은 개발자, 스타트업, 에이전트형 코딩 트래픽에 치우쳐 있으며, 직접 OpenAI, Anthropic 및 하이퍼스케일러 호스팅 엔드포인트에서 발생하는 퍼스트파티 API 물량은 제외된다는 점을 유의해야 한다. 9월 토큰 물량은 크게 가속됐다. 전체 물량은 전월 대비 71% 증가해 8월의 47%와 7월의 18%를 웃돌았고, 전년 대비 성장률은 30x로 8월의 28x와 7월의 21x를 상회했다. 클로즈드웨이트 모델은 전체 물량의 27%를 차지해 8월의 33%에서 하락했으며, 성장률은 전월 대비 39%, 전년 대비 10x로 둔화됐다. 반대로 오픈웨이트 모델 물량은 전월 대비 83%, 전년 대비 101x로 가속됐으며, 8월에는 각각 전월 대비 39%, 전년 대비 56x였다. 보고서는 오픈웨이트 모델의 기여 확대를 전체 성장 가속의 핵심 동인으로 본다. 가격은 지표에 따라 반대 방향으로 움직였다. 물량가중 평균 토큰 가격은 전월 대비 25%, 전년 대비 55% 하락했는데, 더 새롭고 저렴한 고물량 모델로의 구성 변화와 동일 모델 내 가격 압축이 원인이었다. DeepSeek V4.1 Flash와 GLM 5.3 Flash는 약 41조 토큰을 추가해 전체 물량의 약 30%를 차지했으며, 가격은 기존 오픈웨이트 평균보다 낮았다. Kimi K3, GLM 5.3, GPT-5.6 Sol에서도 가격 압축이 나타났다. 반면 평균 토큰 가격은 9월에 전월 대비 4%, 전년 대비 20% 상승했는데, 이는 더 비싼 이미지 모델이 카탈로그에 추가된 영향이 일부 있었다. 이 차이는 저가 모델 사용량이 빠르게 늘면 평균 게시 가격이 상승해도 물량가중 가격은 하락할 수 있음을 뜻한다. 토큰 물량과 가격을 합치면 토큰 지출은 더 강해졌다. 전체 지출은 전월 대비 28% 증가했으며, 8월과 7월에는 각각 7% 증가였다. 전년 대비로는 14x 증가해 8월의 12x와 7월의 11x를 웃돌았다. 클로즈드웨이트 모델 지출은 전체의 72%로 8월의 78%에서 하락했지만, 전월 대비 18%, 전년 대비 10x 증가했다. 오픈웨이트 모델 지출은 더 가파르게 가속돼 전월 대비 64%, 전년 대비 132x 증가했다. 사용량과 지출 기준의 선도 모델도 달랐다. 토큰 물량 기준 상위 5개 모델은 전체 물량의 53% 이상을 차지한 반면, 지출 기준 상위 5개 모델은 전체 지출의 50%를 차지했으며, Tencent's Hy4 preview만 두 목록에 모두 포함됐다. 비하이퍼스케일러 Nvidia GPU 대여 가격은 혼조였다. A100 대여 가격은 9월 평균 $1.59 per GPU-hour로 전월 대비 2.8% 하락했고, H100 가격은 평균 $2.64 per GPU-hour로 전월 대비 2.6% 하락했다. 그럼에도 H100 대비 A100 가격 비율은 8월의 1.65x에서 1.66x로 소폭 상승했다. B200 대여 가격은 8월에 1.5% 하락한 뒤 9월 전월 대비 1.3% 반등해 $5.70 per GPU-hour를 기록했으며, H100 대비 가격 프리미엄은 2.08x에서 2.16x로 상승했다. 따라서 더 새로운 B200의 가격은 완만하게 회복된 반면, 기존 A100과 H100의 대여 요금은 약화됐다. 메모리 현물가격 모멘텀도 둔화됐다. DDR5 16Gb DRAM은 5개월 연속 상승 후 전월 대비 1% 하락해 $49.70를 기록했지만, 2025년 9월의 $6.96 대비 전년 대비 614% 상승했다. NAND 1Tb 가격은 사실상 보합으로 전월 대비 0.1% 상승해 $30.54를 기록했다. 이는 4개월 연속 완만한 전월 대비 하락 후 첫 상승에 이은 것이며, 2025년 9월의 $5.36 대비 전년 대비 470% 상승했다. 이에 따라 보고서는 전년 대비 비교가 매우 높은 수준에 머물고 있음에도 메모리가 더 이상 동일한 수준의 전월 대비 가격 상승 신호를 제공하지 않는다고 평가한다.

분석 프레임워크

보고서는 OpenRouter의 토큰 물량, 지출 및 가격, Bloomberg의 비하이퍼스케일러 GPU 대여 지수, Bloomberg의 DRAM 및 NAND 현물가격이라는 세 가지 월간 추적 지표를 사용해 AI 인프라 여건을 교차 검증한다. 전월 대비 및 전년 대비 변화를 비교하고, 오픈웨이트와 클로즈드웨이트 모델을 구분하며, 평균 토큰 가격과 물량가중 가격을 분리해 모델 구성이 지출에 미치는 영향을 설명한다.

방법론 메모

• 산업 분석 프레임워크물량·가격 분해

  토큰 물량과 가격에 기반한 토큰 지출 분석

  보고서는 토큰 사용량과 가격 변화를 분리해 지출 성장을 설명하며, 저가 모델이 물량에서 차지하는 비중이 높아진 영향도 포함한다.

• 기타기타

  OpenRouter 월간 사용량 및 가격 표본

  이 추적기는 OpenRouter의 약 300개 모델에서 매월 1주일분 데이터를 사용하며, 모든 퍼스트파티 LLM API 활동의 측정치가 아니라 방향성 있는 스냅샷을 제공한다.

핵심 데이터

• 전체 토큰 물량 성장+71% m/m; 30x y/y9월 성장률로, 8월은 +47% m/m 및 28x y/y
• 전체 토큰 지출 성장+28% m/m; 14x y/y8월은 +7% m/m 및 12x y/y
• 물량가중 토큰 가격-25% m/m; -55% y/y저가 모델로의 구성 변화와 동일 모델 내 가격 압축으로 하락
• A100 대여 가격$1.59 per GPU-hour; -2.8% m/m9월 비하이퍼스케일러 평균
• H100 대여 가격$2.64 per GPU-hour; -2.6% m/mH100 대비 A100 가격 비율은 1.66x
• B200 대여 가격$5.70 per GPU-hour; +1.3% m/mB200 대비 H100 가격 비율은 2.16x로 상승
• DDR5 16Gb 현물가격$49.70; -1% m/m; +614% y/y5개월 연속 전월 대비 상승 후 처음으로 전월 대비 하락
• NAND 1Tb 현물가격$30.54; +0.1% m/m; +470% y/y전월 대비 사실상 보합

영향과 시사점

보고서는 토큰 사용량과 지출의 가속을 AI 인프라 수요가 여전히 강하다는 증거로 해석한다. 다만 A100과 H100 대여 가격 하락 및 메모리 가격 상승 정체는 인프라 스택 전반의 가격 신호가 일률적으로 강화되고 있지 않음을 나타낸다.