리서치 보고서 해설Hilo Research

AI infrastructure and data center demand: 9월 token 지출 가속은 AI 인프라 수요를 뒷받침했지만 GPU 임대와 메모리 가격은 엇갈려

J.P. Morgan에 따르면 OpenRouter token 지출은 사용량 증가에 힘입어 9월에 크게 가속됐으며, 특히 오픈 웨이트 모델이 이를 이끌었다. 반면 A100 및 H100 임대료 하락과 메모리 현물가격 모멘텀 정체로 가격 환경은 더 혼조적이었다.

기관JPMorgan

날짜20260929

업종AI infrastructure and data centers

요약

—

OpenRouter token 지출은 9월에 전월 대비 28%, 전년 대비 14배 증가했다.
Token 사용량은 전월 대비 71%, 전년 대비 30배 증가한 반면, 거래량 가중 token 가격은 전월 대비 25% 하락했다.
A100과 H100 임대 가격은 전월 대비 각각 2.8%, 2.6% 하락했고, B200 가격은 1.3% 상승했다.
DDR5 16Gb 현물가격은 전월 대비 1% 하락했지만 전년 대비 614% 높았다.
NAND 1Tb 가격은 전월 대비 사실상 보합이었고 전년 대비 470% 높았다.

보고서 해설

개요

이 Data Center Watch는 LLM token 활동, 하이퍼스케일러 이외 GPU 임대 가격, 메모리 현물가격을 통해 AI 인프라 수요를 추적한다. J.P. Morgan은 9월 token 지출과 사용량이 크게 강해졌지만 하드웨어 서비스 및 메모리 가격 신호는 일관되게 움직이지 않았다고 본다.

핵심 견해

J.P. Morgan의 핵심 결론은 AI 인프라 수요가 9월에도 강했고, 주로 LLM token 지출의 뚜렷한 가속이 이를 이끌었다는 것이다. OpenRouter 추적기에 따르면 token 사용량은 전월 대비 71% 증가해 8월의 47%, 7월의 18%를 웃돌았고 전년 대비 30배 증가했다. 평균 token 가격은 전월 대비 4%, 전년 대비 20% 상승해 전체 token 지출은 전월 대비 28%, 전년 대비 14배 증가했다. 이는 7월과 8월의 전월 대비 성장률이 각각 7%였던 것과 대조적이다. 보고서는 지출 가속을 강한 수요의 증거로 해석하지만, 가격 신호는 모델 구성에 상당히 좌우된다고 지적한다. 거래량 가중 평균 token 가격은 전월 대비 25%, 전년 대비 55% 하락했다. 보고서는 더 저렴하고 사용량이 많은 신모델로의 구성 변화와 동일 모델 내 가격 압축을 원인으로 든다. DeepSeek V4.1 Flash와 GLM 5.3 Flash만으로 약 41조 token, 전체 사용량의 30%가 추가됐으며, 가격은 이전 오픈 웨이트 평균보다 낮았다. 또한 Kimi K3, GLM 5.3, GPT-5.6 Sol의 가격 압축도 언급한다. 오픈 웨이트 모델의 사용량은 전월 대비 83%, 전년 대비 101배 증가해 클로즈드 웨이트 모델의 전월 대비 39%, 전년 대비 10배 증가를 크게 앞질렀다. 이에 따라 추적 사용량에서 오픈 웨이트 모델의 비중이 높아졌으며, 클로즈드 웨이트 모델은 token 사용량의 27%를 차지했지만 지출의 72%를 차지했다. 보고서는 사용량 기준 선도와 지출 기준 선도를 구분한다. 9월 token 사용량 기준 상위 5개 모델은 DeepSeek V4.1 Flash, GLM 5.3 Flash, Tencent’s Hy4 preview, GPT-5.6 Luna, DeepSeek V4 Flash였으며, 전체 사용량의 53% 이상을 차지해 8월의 50% 이상에서 상승했다. 지출 기준 상위 모델은 GPT-6 Astra, Tencent’s Hy4 preview, Claude Fable 5.1, Claude Opus 5, GPT-5.6 Sol로 지출의 50%를 차지해 8월의 48%에서 상승했다. 두 상위 5개 목록에 겹치는 모델은 하나뿐이어서, 높은 사용량 활동과 지출이 서로 다른 모델군에 의해 이끌리고 있음을 보여준다. J.P. Morgan은 LLM 추적기가 매월 1주일 동안 OpenRouter에 등재된 약 300개 모델을 표본으로 삼는다는 점을 유의하라고 한다. OpenRouter는 단일 엔드포인트를 통해 API 요청을 집계하지만, 트래픽은 개발자, 스타트업, agentic-coding 용도에 치우쳐 있으며 직접 OpenAI 또는 Anthropic 사용과 같은 퍼스트파티 API 사용량 및 하이퍼스케일러 호스팅 엔드포인트는 제외된다. 따라서 이 추적기는 일부 LLM 시장 추세를 나타내는 지표이지 전체 모델 사용량을 완전히 측정하는 수단은 아니다. GPU 임대 가격은 덜 일관된 수요 신호를 제공했다. 하이퍼스케일러 이외 용량에 관한 Bloomberg 지수에 따르면, A100 임대 가격은 9월 평균 $1.59 per GPU-hour로 전월 대비 2.8% 하락했고, H100 가격은 평균 $2.64 per GPU-hour로 전월 대비 2.6% 하락했다. 그럼에도 H100 대 A100 가격 비율은 8월의 1.65x에서 1.66x로 소폭 상승했다. B200 임대 가격은 8월 하락 후 전월 대비 1.3% 반등해 $5.70 per GPU-hour가 됐고, H100 대비 프리미엄은 2.08x에서 2.16x로 높아졌다. 따라서 이전 세대 GPU 임대 가격은 약세였지만 B200 가격은 완만하게 회복하며 상당히 높은 가격대에 머물렀다. 메모리 현물가격 추세도 이전 상승 이후 정체됐다. DDR5 16Gb 현물가격은 9월에 전월 대비 1% 하락해 $49.70가 됐으며, 이는 5개월 연속 월간 상승 후 첫 하락이었다. 다만 2025년 9월의 $6.96보다 614% 높았다. NAND 1Tb 현물가격은 사실상 보합으로 전월 대비 0.1% 상승해 $30.54가 됐지만, 1년 전의 $5.36보다 470% 높았다. 이에 따라 보고서는 전년 대비 상승률은 여전히 매우 크지만, 메모리 가격의 전월 대비 상승 모멘텀은 더 이상 가속되지 않는다고 평가한다.

분석 프레임워크

보고서는 세 가지 월간 지표를 결합한다. OpenRouter에서의 LLM token 사용량, 가격, 지출에 대한 1주일 표본, Bloomberg의 하이퍼스케일러 이외 GPU 임대료 지수, 그리고 Bloomberg 메모리 현물가격 데이터다. 전월 대비 및 전년 대비 변화를 비교하고, 오픈 웨이트와 클로즈드 웨이트 모델을 구분하며, 가격과 사용량 구성을 통해 token 지출 변화를 설명한다.

방법론 메모

기타기타
OpenRouter token 사용량, 가격 및 지출의 월간 추적기
J.P. Morgan은 매월 OpenRouter에 있는 약 300개 모델을 대상으로 1주일 표본을 추출해 사용량, 평균 가격, 거래량 가중 가격 및 지출 변화를 추적한다. 보고서는 이 표본이 직접 퍼스트파티 API 및 하이퍼스케일러 호스팅 API 사용량을 제외한다고 명시한다.
산업 분석 프레임워크물량·가격 분해
사용량, 평균 가격, 거래량 가중 가격을 활용한 token 지출 분석
보고서는 token 사용량 확대와 가격 효과를 분리해 지출 성장을 설명한다. 사용량이 많고 저렴한 오픈 웨이트 모델은 평균 token 가격이 상승하는 가운데서도 거래량 가중 가격을 낮췄다.
산업 분석 프레임워크수급 프레임워크
AI 인프라 수요 지표로서의 GPU 임대료와 메모리 현물가격
보고서는 GPU 임대료와 DRAM 및 NAND 현물가격의 전월 대비 변화를 이용해 중요한 AI 인프라 투입재의 가격 환경이 강화되는지 약화되는지를 평가한다.

핵심 데이터

OpenRouter token 사용량 증가+71% m/m; 30x y/y9월 증가율은 8월의+47% m/m에서 가속됐다.
OpenRouter token 지출 증가+28% m/m; 14x y/y7월과 8월에는 모두+7% m/m였다.
거래량 가중 token 가격-25% m/m; -55% y/y더 저렴한 모델 구성과 동일 모델 가격 압축으로 하락했다.
A100 임대 가격$1.59 per GPU-hour; -2.8% m/m9월 하이퍼스케일러 이외 평균 임대료다.
H100 임대 가격$2.64 per GPU-hour; -2.6% m/mH100 대 A100 가격 비율은 1.66x였다.
B200 임대 가격$5.70 per GPU-hour; +1.3% m/mB200 대 H100 가격 비율은 8월의2.08x에서2.16x로 상승했다.
DDR5 16Gb 현물가격$49.70; -1% m/m; +614% y/y5개월 연속 월간 상승 후 처음으로 전월 대비 하락했다.
NAND 1Tb 현물가격$30.54; +0.1% m/m; +470% y/y전월 상승 후 전월 대비 사실상 보합이었다.

영향과 시사점

보고서는 token 지출 가속이 AI 인프라 수요의 지속적인 강세를 뒷받침한다고 주장하며, 특히 오픈 웨이트 모델 사용량의 빠른 확대를 강조한다. 동시에 A100 및 H100 임대료 하락과 메모리 가격의 전월 대비 모멘텀 정체는 인프라 가격 환경이 광범위하게 가속되는 것이 아니라 여전히 불균일함을 시사한다.

위험

OpenRouter 표본은 개발자, 스타트업, agentic-coding 트래픽에 치우쳐 있고 직접 퍼스트파티 및 하이퍼스케일러 호스팅 API 사용량을 제외하므로, 전체 LLM 수요를 대표하는 데 한계가 있다.

주시할 점

9월 가속 이후 token 사용량 및 token 지출 증가가 높은 수준을 유지하는지 여부.
오픈 웨이트와 클로즈드 웨이트 모델의 사용량 및 지출 구성 변화.
A100, H100, B200 GPU 임대 가격의 전월 대비 추세.
DDR5 및 NAND 현물가격이 전월 대비 상승을 재개할지 또는 보합에서 하락을 유지할지 여부.