리서치 보고서 해설Hilo Research

AI 컴퓨팅 인프라, 데이터센터 하드웨어 및 네트워킹 장비: 토큰 사용량이 AI 지출 성장과 메모리 가격 상승을 계속 견인하는 가운데 GPU 임대 가격은 엇갈려

JPMorgan의 8월 데이터에 따르면 OpenRouter 토큰 사용량은 전월 대비 47% 증가하며 지출을 전월 대비 7% 끌어올렸고, DRAM 및 NAND 현물 가격도 크게 상승했다. GPU 성과는 혼조를 보였으며 H100 가격은 회복한 반면 B200은 6개월 이상 만에 처음으로 전월 대비 하락했다.

기관JPMorgan

날짜20260826

업종AI 컴퓨팅 인프라, 데이터센터 하드웨어 및 네트워킹 장비

요약

—

8월 토큰 사용량은 전월 대비 47% 증가해 전년 대비 28배에 달했으며, 토큰 지출은 전월 대비 7% 증가해 전년 대비 12배에 달했다.
할인과 저비용 모델 채택 확대로 거래량 가중 토큰 가격은 전월 대비 28%, 전년 대비 56% 하락했다.
H100 임대 가격은 전월 대비 1.2% 상승한 반면 B200 가격은 전월 대비 1.5% 하락해 6개월 이상 만에 처음으로 감소했다.
DDR5 16Gb 현물 가격은 $50.20으로 상승해 전월 대비 6%, 전년 대비 880% 올랐다.
NAND 1Tb 현물 가격은 $30.50으로 상승해 전월 대비 14%, 전년 대비 470% 올랐다.

보고서 해설

개요

이 보고서는 OpenRouter의 LLM 사용량 및 가격 표본, 하이퍼스케일이 아닌 클라우드 제공업체의 GPU 임대 가격, DRAM 및 NAND 현물 가격을 활용해 8월 AI 인프라 수요를 평가한다. 결론은 전반적인 수요 추세가 긍정적으로 유지되고 있다는 것으로, GPU 임대 가격은 모델별로 엇갈렸지만 토큰 지출과 메모리 가격은 계속 상승했다.

핵심 견해

이 보고서는 우선 LLM 토큰 활동을 통해 AI 인프라 수요를 평가한다. 추적기는 매월 1주일간의 데이터를 표본으로 하며 OpenRouter 플랫폼의 약 300개 LLM을 포괄한다. 8월 토큰 사용량은 7월의 둔화 이후 다시 가속되어 전월 대비 47% 증가했으며, 이는 7월의 18%보다 높지만 6월의 70%보다는 낮다. 전년 대비로는 28배에 달했으며, 7월과 6월에는 각각 21배와 20배였다. 폐쇄 가중치 모델은 전체 사용량의 33%를 차지해 7월의 29%에서 상승했고 6월의 33%와는 동일했다. 해당 모델의 사용량은 전월 대비 66% 증가했으며, 7월과 6월에는 각각 3%와 34% 증가했고 전년 대비 14배에 달했다. 오픈 가중치 모델 사용량은 전월 대비 39% 증가했으며, 7월과 6월에는 각각 26%와 97% 증가했다. 전년 대비로는 56배에 달해 7월의 63배와 6월의 74배보다 낮았다. 사용량 증가는 가격 하락을 동반했다. 8월 평균 토큰 가격은 전월 대비 5% 하락했으며, 7월에는 3% 하락하고 6월에는 7% 상승했다. 전년 대비로는 5% 상승해 7월의 2% 및 6월의 -5%에서 개선됐다. 실제 모델 믹스를 더 잘 반영하는 거래량 가중 가격은 전월 대비 28%, 전년 대비 56% 하락했는데, 이는 주로 GPT-5.6 Sol의 50% 가격 인하, GPT-5.6 Luna의 80% 가격 인하 및 저비용 모델의 광범위한 채택에 기인한다. Tencent Hy3, DeepSeek v4 Flash-0731 및 GPT-5.6 Luna는 합쳐서 전월 대비 증가한 토큰 물량의 약 99%를 기여했다. 오픈 가중치 모델의 거래량 가중 가격은 전월 대비 17% 하락했으며, 7월과 6월에는 각각 36%와 12% 상승했다. 그럼에도 전년 대비로는 60% 상승했다. 폐쇄 가중치 모델의 거래량 가중 가격은 전월 대비 37%, 전년 대비 29% 하락했으며, 모두 이전 몇 달보다 크게 약화됐다. 가격 하락에도 강한 사용량 확대로 토큰 지출은 계속 증가했다. 총지출은 8월 전월 대비 7% 증가해 7월과 동일했으며 6월의 70%보다는 낮았다. 전년 대비로는 12배에 달했으며, 7월과 6월에는 각각 11배와 16배였다. 폐쇄 가중치 모델은 전체 지출의 78%를 차지해 7월의 80%, 6월의 88%에서 하락했다. 해당 모델 지출은 전월 대비 4% 증가했고 전년 대비 10배에 달했다. 오픈 가중치 모델 지출은 전월 대비 16% 증가해 7월의 71% 및 6월의 120%에서 크게 둔화됐지만, 전년 대비로는 여전히 89배에 달했다. 이는 오픈 가중치 모델이 더 빠른 사용량 확대를 이끌었지만, 고가의 폐쇄 가중치 모델이 계속해서 지출의 압도적 대부분을 차지했음을 의미한다. 모델 순위는 사용량과 매출 구성의 차이를 더욱 보여준다. 토큰 사용량 기준으로 8월 상위 5개 모델은 DeepSeek v4 Flash-0731, Tencent Hy3, MiMo v2.5, GPT-5.6 Luna 및 DeepSeek v4 Flash였으며, 합쳐서 전체 사용량의 50% 이상을 차지했다. 토큰 지출 기준 상위 5개는 Claude Opus 5, Kimi K3, Claude Opus 4.7, GPT-5.6 Sol 및 Claude Fable 5였으며, 합쳐서 전체 지출의 48%를 차지했다. 두 상위 5개 그룹 간에는 중복이 없었으며, 이는 저비용 모델이 사용량을 지배하는 반면 고가 모델은 계속해서 지출을 지배한다는 점을 시사한다. GPU 임대 가격은 모델별로 엇갈렸다. 하이퍼스케일이 아닌 클라우드 제공업체 시장에서 A100의 8월 평균 임대 가격은 GPU-시간당 $1.65로 전월과 동일했으며, 7월과 6월에는 각각 0.9%와 6.4% 상승했다. H100 가격은 GPU-시간당 $2.73으로, 7월의 0.6% 하락과 6월의 3.5% 상승 이후 전월 대비 1.2% 회복했다. H100/A100 가격 비율은 1.65배였으며, 7월과 6월에는 각각 1.64배와 1.66배였다. B200 가격은 GPU-시간당 $5.63으로 전월 대비 1.5% 하락했으며, 이는 7월과 6월에 각각 7.2%와 2.7% 상승한 뒤 6개월 이상 만에 처음으로 전월 대비 하락한 것이다. B200/H100 가격 비율은 2.06배로 하락해 7월의 2.12배보다 낮았지만 6월의 1.97배보다 높았고, 2025년 9월 지수 출시 무렵의 2.58배 수준보다 크게 낮았다. 메모리 가격은 더 일관된 상승 신호를 제공했다. DDR5 16Gb 현물 가격은 8월 $50.20으로 상승해 7월의 $47.00 대비 전월 대비 6%, 2025년 8월의 $5.09 대비 전년 대비 880% 올랐다. 이는 보고서가 전년 대비 8배 이상 증가로 평가한 것으로, 2월과 3월의 소폭 전월 대비 하락 이후 5개월 연속 상승을 기록한 것이다. NAND 1Tb 현물 가격은 $30.50으로 상승해 7월의 $26.90 대비 전월 대비 14%, 2025년 8월의 $5.29 대비 전년 대비 470% 올랐다. 이는 보고서가 전년 대비 4배 이상 증가로 평가한 것으로, 4개월 연속 소폭 하락 후 처음으로 성장세로 복귀한 것이다. 전반적으로 토큰 지출 확대와 메모리 가격 상승은 AI 인프라 수요에 대한 긍정적 평가를 뒷받침하지만, B200 임대 가격 하락은 컴퓨팅 제품 전반에서 가격 모멘텀이 균일하지 않음을 보여준다.

분석 프레임워크

이 보고서는 AI 애플리케이션 활동, 컴퓨팅 용량 임대 및 메모리 가격을 순차적으로 분석한다. 먼저 토큰 지출을 사용량과 가격으로 분해하고, 전체 모델·오픈 가중치 모델·폐쇄 가중치 모델 간 전월 대비 및 전년 대비 변화를 비교한다. 이어 GPU 모델별 임대 가격과 상대 가격 비율을 사용해 하이퍼스케일이 아닌 클라우드 컴퓨팅 시장을 검토한다. 마지막으로 DRAM 및 NAND 현물 가격을 통해 메모리 수요와 가격 추세를 평가하고, 세 가지 지표 그룹을 결합해 AI 인프라 수요 환경을 평가한다.

방법론 메모

산업/섹터 분석 프레임워크거래량-가격 분해
토큰 지출을 사용량과 가격으로 분해
이 보고서는 토큰 사용량, 평균 가격, 거래량 가중 가격 및 총지출을 별도로 추적하여 지출 증가가 사용량 확대에 따른 것인지 단위 가격 변화에 따른 것인지 판단한다.
산업/섹터 분석 프레임워크수급 프레임워크
GPU 임대 및 메모리 현물 가격에서 도출되는 수급 신호
이 보고서는 GPU 임대 가격과 DRAM 및 NAND 현물 가격을 컴퓨팅 및 메모리 시장의 수급 여건 지표로 사용하며, 제품 간 가격 변화의 방향과 폭을 비교한다.
(비어휘 방법론)기타
OpenRouter 월간 1주일 스냅샷 추적
추적기는 매월 1주일의 데이터를 표본으로 하여 OpenRouter의 약 300개 LLM을 포괄하고, 사용량 및 가격 추세의 월간 스냅샷을 산출한다. 표본은 개발자, 스타트업 및 에이전트형 코딩 트래픽에 치우쳐 있으며, 모델 제공업체와 하이퍼스케일 클라우드 플랫폼의 퍼스트파티 API 사용량은 제외한다.

핵심 데이터

8월 토큰 사용량+47% m/m, 28x y/y전월 대비 성장률은 7월의 18%에서 재가속됐으며, 전년 대비 성장률은 7월의 21배에서 28배로 상승했다.
8월 평균 토큰 가격-5% m/m, +5% y/y가격은 전월 대비 계속 하락했지만, 전년 대비 성장률은 7월의 2%에서 개선됐다.
8월 거래량 가중 토큰 가격-28% m/m, -56% y/y주로 대폭적인 모델 가격 인하와 저비용 모델 채택 증가의 영향을 받았다.
8월 토큰 지출+7% m/m, 12x y/y사용량 확대가 거래량 가중 가격 하락을 상쇄했다.
폐쇄 가중치 모델의 지출 비중78%7월의 80% 및 6월의 88%에서 하락했다.
평균 A100 임대 가격$1.65/GPU-hour8월 전월 대비 변동 없었다.
평균 H100 임대 가격$2.73/GPU-hour8월 전월 대비 1.2% 상승했으며, H100/A100 가격 비율은 1.65배였다.
평균 B200 임대 가격$5.63/GPU-hour8월 전월 대비 1.5% 하락해 6개월 이상 만에 처음으로 전월 대비 하락했으며, B200/H100 가격 비율은 2.06배였다.
DDR5 16Gb 현물 가격$50.208월 전월 대비 6%, 전년 대비 880% 상승해 5개월 연속 월간 상승을 기록했다.
NAND 1Tb 현물 가격$30.508월 전월 대비 14%, 전년 대비 470% 상승해 4개월 연속 전월 대비 하락을 끝냈다.

영향과 시사점

이 보고서는 가격 하락에도 토큰 사용량의 빠른 확대가 지출 성장을 계속 견인하기에 충분하며, 이는 AI 모델 사용에 대한 견조한 수요를 나타낸다고 본다. 동시에 DRAM 및 NAND 현물 가격 상승은 메모리 수요와 가격 여건 개선 신호를 강화한다. 그러나 B200 임대 가격의 첫 전월 대비 하락과 H100 대비 프리미엄 축소는 GPU 가격 추세가 제품 세대별로 다름을 시사하며, 전반적인 수요 개선을 모든 컴퓨팅 제품의 동시 가격 상승과 동일시해서는 안 된다는 의미다.

위험

OpenRouter 데이터는 개발자, 스타트업 및 에이전트형 코딩 트래픽에 치우쳐 있고 OpenAI 및 Anthropic 등 퍼스트파티 API 사용량과 하이퍼스케일 클라우드 플랫폼의 호스팅 엔드포인트 사용량을 제외한다. 따라서 이 표본은 전체 LLM 시장을 대표하지 않는다.

주시할 점

토큰 사용량 증가가 평균 가격 및 거래량 가중 가격 하락을 상쇄해 총 토큰 지출이 계속 증가할 수 있는지 지속적으로 모니터링한다.
오픈 가중치 모델과 폐쇄 가중치 모델 간 사용량, 가격 및 지출 비중의 변화를 모니터링한다.
B200 임대 가격이 계속 하락하는지와 B200/H100 및 H100/A100 가격 비율의 변화를 추적한다.
DRAM이 연속적인 월간 상승을 유지할 수 있는지와 NAND가 4개월간의 하락을 끝낸 후 성장세를 유지할 수 있는지 관찰한다.