AI infrastructure and data center market conditions: AI token 지출은 9월 크게 가속됐지만 GPU 임대와 메모리 가격 신호는 혼조

개요

이 데이터센터 추적 보고서는 월간 LLM token 활동, 하이퍼스케일러 외 GPU 임대가격 및 메모리 현물가격을 통해 AI 인프라 수요를 평가한다. J.P. Morgan은 token 수요 증거는 강하다고 보지만, 컴퓨팅 임대와 메모리 가격 신호는 더 혼조적이라고 판단한다.

핵심 견해

J.P. Morgan의 9월 Data Center Watch는 가속되는 LLM token 활동을 근거로 AI 인프라 수요가 여전히 강하다고 주장하지만, GPU 임대 및 메모리 현물가격 데이터는 이를 일관되게 뒷받침하지는 않는다고 본다. 이 추적 조사는 OpenRouter에 등록된 약300개 모델의 월간 표본을 사용한다. Token 사용량은 전월 대비 71% 증가해 8월의 47%와 7월의 18%에서 가속됐고, 전년 대비로는 30배 증가했다. Token 지출은 전월 대비 28% 증가했으며, 8월과 7월에는 각각 7% 증가했던 것과 비교해 전년 대비 14배에 달했다. 보고서는 사용량 가속의 주된 원인을 오픈 웨이트 모델에서 찾으며, 이들의 사용량은 전월 대비 83%, 전년 대비 101배 증가했다. 이에 비해 클로즈드 웨이트 모델은 각각 39%, 10배 증가했다. 보고서는 평균 token 가격과 거래량 가중 가격을 구분한다. 더 비싼 이미지 모델의 추가로 평균 가격은 9월 전월 대비 4%, 전년 대비 20% 상승했다. 그러나 수요가 더 새롭고 저가인 대량 사용 모델로 이동하고 일부 기존 모델의 가격이 인하되면서, 거래량 가중 가격은 전월 대비 25%, 전년 대비 55% 하락했다. DeepSeek V4.1 Flash와 GLM 5.3 Flash는 약41조 token을 추가해 전체 사용량의 30%를 차지했고, 가격은 이전 오픈 웨이트 모델 평균보다 낮았다. Kimi K3, GLM 5.3 및 GPT-5.6 Sol의 동일 모델 가격 압축도 기여했다. 상위 5개 모델은 전체 사용량의 53% 이상과 전체 지출의 50%를 차지했지만, 두 상위 5개 순위에 모두 든 모델은 Tencent의 Hy4 preview뿐이어서 사용량 선도와 지출 선도가 다름을 보여준다. 하이퍼스케일러 외 용량의 GPU 임대가격은 혼조였다. A100 가격은 평균 $1.59 per GPU-hour로 전월 대비 2.8% 하락했고, H100 가격은 평균 $2.64 per GPU-hour로 전월 대비 2.6% 하락했다. 반면 B200 임대가격은 8월의 1.5% 하락 후 9월 전월 대비 1.3% 상승해 $5.70 per GPU-hour를 기록했다. B200 대 H100 임대가격 비율은 8월 2.08x에서 2.16x로 상승했고, H100 대 A100 비율은 1.65x에서 1.66x로 소폭 올랐다. 이에 따라 J.P. Morgan은 컴퓨팅 임대 신호를 일률적 강세가 아닌 혼조로 규정한다. 메모리 현물가격의 상승 모멘텀도 멈췄다. DDR5 16Gb 현물가격은 5개월 연속 상승 후 전월 대비 1% 하락해 $49.70를 기록했지만, 2025년 9월의 $6.96보다 614% 높았다. NAND 1Tb 가격은 전월 대비 사실상 보합으로 0.1% 상승해 $30.54를 기록했지만, 1년 전의 $5.36보다 470% 높았다. 이 수치들은 월간 모멘텀이 9월에 약화됐음에도 메모리 가격이 전년 대비로는 여전히 높은 수준이었음을 보여준다.

분석 프레임워크

보고서는 약300개 LLM에 대한 OpenRouter의 token 사용량 및 가격 월간 표본과, 하이퍼스케일러 외 GPU 임대 및 메모리 현물가격을 위한 Bloomberg 지수를 결합한다. 전월 및 전년 성장률을 비교하고 평균 token 가격과 거래량 가중 가격을 분리하며, 모델 구성, 가격 변화 및 하드웨어 가격 비율을 사용해 AI 인프라 수요 상황을 해석한다.

방법론 메모

• 산업 분석 프레임워크물량·가격 분해

  Token 사용량, 평균 가격, 거래량 가중 가격 및 지출을 별도로 분석한다.

  보고서는 수요 성장을 가격 및 제품 구성 효과와 분리한다. 거래량 가중 가격이 하락하더라도 token 사용량 확대에 따라 지출은 빠르게 증가할 수 있다.

• 산업 분석 프레임워크수급 프레임워크

  Token 활동, GPU 임대가격 및 메모리 현물가격을 통해 AI 인프라 수요를 평가한다.

  보고서는 사용량 증가를 수요 지표로, GPU 및 메모리 가격을 컴퓨팅과 부품의 가용성 또는 수요 여건을 나타내는 시장 신호로 사용한다.

핵심 데이터

• OpenRouter token 사용량 증가+71% m/m; 30x y/y9월 증가율이며, 8월은+47% m/m, 7월은+18% m/m였다.
• OpenRouter token 지출 증가+28% m/m; 14x y/y9월 증가율이며, 8월과 7월은 모두+7% m/m였다.
• 거래량 가중 token 가격-25% m/m; -55% y/y저가·대량 사용 모델로의 구성 변화와 동일 모델 가격 압축으로 하락했다.
• A100 임대가격$1.59 per GPU-hour; -2.8% m/m9월 하이퍼스케일러 외 평균 임대가격.
• H100 임대가격$2.64 per GPU-hour; -2.6% m/m9월 하이퍼스케일러 외 평균 임대가격.
• B200 임대가격$5.70 per GPU-hour; +1.3% m/m9월 하이퍼스케일러 외 평균 임대가격.
• DDR5 16Gb 현물가격$49.70; -1% m/m; +614% y/y5개월 연속 상승 후 첫 월간 하락.
• NAND 1Tb 현물가격$30.54; +0.1% m/m; +470% y/y전월 대비 사실상 보합.

영향과 시사점

보고서는 token 사용량과 지출의 가속을 AI 인프라 수요가 여전히 강하다는 증거로 해석한다. 동시에 A100 및 H100 임대가격 하락과 메모리 가격의 전월 대비 정체는 인프라 투입재의 가격 환경이 일률적으로 긴축되지 않았음을 시사한다.

위험

• OpenRouter 추적기는 개발자, 스타트업 및 에이전트형 코딩 트래픽을 반영하며, 직접 OpenAI, Anthropic 및 하이퍼스케일러 호스팅 엔드포인트를 포함한 퍼스트파티 API 사용량은 제외한다.