AI 현황

OpenRouter와 함께하는 100조 토큰에 대한 실증적 연구

Malika Aubakirova*Alex Atallah†Chris Clark†Justin Summerville†Anjney Midha*
* a16z (Andreessen Horowitz) † OpenRouter Inc.
* 주요 기여자입니다. 자세한 내용은 기여 섹션을 참조하세요.
2025년 12월

초록

지난 1년은 대규모 언어 모델(LLM)의 발전과 실제 사용에 있어 전환점이 되었습니다. 2024년 12월 5일, 널리 채택된 최초의 추론 모델인 o1이 출시되면서, 이 분야는 단일 패스 패턴 생성에서 다단계 숙고 추론으로 전환되었고 배포, 실험, 새로운 유형의 애플리케이션 개발이 가속화되었습니다. 이러한 변화가 빠르게 진행되는 동안, 실제 환경에서 이러한 모델이 어떻게 사용되어 왔는지에 대한 경험적 이해는 이를 따라가지 못했습니다. 본 연구에서는 다양한 LLM에 걸쳐 AI 추론을 제공하는 OpenRouter 플랫폼을 활용하여, 여러 작업, 지역, 시점에서 발생한 100조 개 이상의 실제 LLM 상호작용 토큰을 분석합니다. 경험적 연구를 통해 오픈 웨이트 모델의 상당한 채택, 많은 사람이 지배적이라고 생각하는 생산성 작업을 넘어선 창의적 역할극의 압도적인 인기, 코딩 지원 범주의 높은 수요, 그리고 에이전트형 추론의 부상을 관찰했습니다. 또한 유지율 분석을 통해 기초 코호트를 식별했습니다. 이는 후발 코호트보다 훨씬 오랫동안 참여가 지속되는 초기 사용자들입니다. 우리는 이 현상을 신데렐라 "유리 구두" 효과라고 부릅니다. 이러한 결과는 개발자와 최종 사용자가 실제 환경에서 LLM과 상호작용하는 방식이 복잡하고 다면적임을 보여줍니다. 또한 모델 개발자, AI 개발자, 인프라 제공업체에 대한 시사점을 논의하고, 사용에 대한 데이터 기반 이해가 LLM 시스템의 더 나은 설계와 배포에 어떻게 기여할 수 있는지 제시합니다.

소개

불과 1년 전만 해도 대규모 언어 모델의 양상은 근본적으로 달랐습니다. 2024년 말 이전에는 텍스트 시퀀스를 이어 가도록 최적화된 단일 패스 자기회귀 예측기가 최첨단 시스템의 대부분을 차지했습니다. 여러 선행 연구에서는 고급 지시 따르기와 도구 사용을 통해 추론을 근사하려고 했습니다. 예를 들어 Anthropic의 Sonnet 2.1 및 3 모델은 정교한 도구 사용과 검색 증강 생성(RAG)에 뛰어났고, Cohere의 Command R 모델은 구조화된 도구 계획 토큰을 통합했습니다. 한편 Reflection 과 같은 오픈 소스 프로젝트는 학습 중 지도형 사고 연쇄와 자기 비평 루프를 탐구했습니다. 이러한 고급 기법은 추론과 유사한 출력과 뛰어난 지시 따르기 성능을 만들어 냈지만, 기본 추론 절차는 여전히 단일 순방향 패스에 기반했으며, 반복적인 내부 계산을 수행하는 대신 데이터에서 학습한 표면적 추적을 출력했습니다.

이 패러다임은 2024년 12월 5일 OpenAI가 o1 추론 모델의 첫 정식 버전을 출시하면서 발전했습니다(코드명 Strawberry). 2024년 9월 12일에 출시된 프리뷰는 이미 기존 자기회귀 추론에서 벗어나는 변화를 보여 주었습니다. 이전 시스템과 달리 o1 은 최종 출력을 생성하기 전에 내부의 다단계 숙고, 잠재적 계획 수립, 반복적 개선을 포함하는 확장된 추론 시점 계산 프로세스를 사용했습니다. 경험적으로 이는 수학적 추론, 논리적 일관성, 다단계 의사 결정에서 체계적인 개선을 가능하게 했으며, 패턴 완성에서 구조화된 내부 인지로의 전환을 보여 주었습니다. 돌이켜보면 지난해는 이 분야의 진정한 변곡점이었습니다. 이전 접근 방식도 추론을 지향했지만, o1 은 단순히 묘사하는 것이 아니라 의도적인 다단계 계산을 통해 추론을 수행하는 최초의 범용 배포 아키텍처를 도입했습니다 .

최근 LLM 기능의 발전은 널리 기록되어 왔지만, 이러한 모델이 실제로 어떻게 사용되는지에 대한 체계적인 증거는 여전히 제한적입니다 . 기존 연구는 대규모 행동 데이터보다 정성적 시연이나 벤치마크 성능을 강조하는 경향이 있습니다. 이러한 격차를 해소하기 위해, 다양한 LLM 질의의 허브 역할을 하는 멀티 모델 AI 추론 플랫폼인 OpenRouter의 100조 토큰 데이터 세트를 활용해 LLM 사용에 대한 실증 연구를 수행합니다.

OpenRouter의 관점은 세분화된 사용 패턴을 살펴볼 수 있는 독특한 창을 제공합니다. OpenRouter는 클로즈드 소스 API와 오픈 웨이트 배포를 모두 아우르는 다양한 모델에 걸쳐 요청을 조정하므로, 개발자와 최종 사용자가 실제로 다양한 작업에 언어 모델을 호출하는 방식의 대표적인 단면을 포착합니다. 이 풍부한 데이터 세트를 분석하면 어떤 작업에 어떤 모델이 선택되는지, 지역과 시간에 따라 사용량이 어떻게 달라지는지, 가격이나 신규 모델 출시와 같은 외부 요인이 행동에 어떤 영향을 미치는지 확인할 수 있습니다.

이 논문에서는 Anthropic의 경제적 영향 및 사용 분석과 같은 AI 도입에 관한 기존 실증 연구에서 영감을 얻고 OpenAI의 보고서 How People Use ChatGPT 도 참고하여, 중립적이고 증거에 기반한 논의를 진행합니다. 먼저 작업과 모델을 분류하는 방법을 포함하여 데이터 세트와 방법론을 설명합니다. 그런 다음 사용의 다양한 측면을 조명하는 일련의 분석을 자세히 살펴봅니다:

  • 오픈 소스 모델과 폐쇄형 소스 모델: 오픈 소스 모델 생태계의 추세와 주요 업체를 파악하기 위해 독점 모델과 비교하여 오픈 소스 모델의 채택 패턴을 분석합니다.
  • 에이전트형 추론: 다단계 도구 지원 추론 패턴의 출현을 조사하여, 사용자가 단일 턴 상호작용이 아니라 점점 더 큰 자동화 시스템의 구성 요소로 모델을 활용하는 방식을 파악합니다.
  • 카테고리 분류 체계: 작업 카테고리(프로그래밍, 역할극, 번역 등)별 사용량을 분석하여 어떤 애플리케이션 영역이 가장 많은 활동을 유도하는지, 그리고 이러한 분포가 모델 제공업체별로 어떻게 다른지 보여줍니다.
  • 지역: 전 세계 사용 패턴을 분석하고 대륙별 LLM 도입을 비교하며 미국 내 사용량을 자세히 살펴봅니다. 이를 통해 지역적 요인과 현지 모델 제공이 전반적인 수요를 어떻게 형성하는지 확인합니다.
  • 실질 비용과 사용량의 관계: 사용량이 실질 비용과 어떻게 연관되는지 평가하여 실제 LLM 도입의 경제적 민감도를 파악합니다. 이 지표는 평균 입력 토큰과 출력 토큰을 기반으로 하며 캐싱 효과를 반영합니다.
  • 잔존율 패턴: 가장 널리 사용되는 모델의 장기 잔존율을 분석하여 지속적이고 더 고착화된 행동을 정의하는 기초 코호트 를 파악합니다. 이를 초기의 사용자 요구와 모델 특성 간 정렬이 시간이 지나도 참여를 유지하는 지속적인 적합성을 만들어내는 신데렐라 "유리 구두" 효과라고 정의합니다.

마지막으로 이러한 결과가 실제 LLM 사용에 대해 무엇을 보여 주는지 논의하고, 예상 밖의 패턴을 강조하며 몇 가지 통념을 바로잡습니다.

데이터 및 방법론

OpenRouter 플랫폼 및 데이터 세트

분석은 OpenRouter 플랫폼에서 수집한 메타데이터를 기반으로 합니다. OpenRouter는 사용자와 개발자를 수백 개의 대규모 언어 모델에 연결하는 통합 AI 추론 계층입니다. OpenRouter의 각 사용자 요청은 사용자가 선택한 모델을 대상으로 실행되며, 그 결과로 생성된 "generation" 이벤트를 설명하는 구조화된 메타데이터가 기록됩니다. 이 연구에 사용된 데이터 세트는 글로벌 사용자 기반의 수십억 개 프롬프트–완성 쌍에 대한 익명화된 요청 수준 메타데이터 로 구성되며, 작성 시점을 기준으로 약 2년에 걸친 데이터입니다. 특히 최근 1년을 중점적으로 살펴봅니다.

핵심적으로, 저희는 프롬프트나 완성 결과의 원문에 접근할 수 없었습니다. 저희 분석은 전적으로 메타데이터 에 의존하며, 각 생성의 구조, 시점, 맥락을 포착하지만 사용자 콘텐츠는 노출하지 않습니다. 이러한 개인정보 보호 설계를 통해 대규모 행동 분석이 가능합니다.

각 생성 기록에는 시간, 모델 및 제공업체 식별자, 토큰 사용량, 시스템 성능 지표에 관한 정보가 포함됩니다. 토큰 수에는 프롬프트(입력) 토큰과 완성(출력) 토큰이 모두 포함되므로 전체 모델 작업량과 비용을 측정할 수 있습니다. 메타데이터에는 지리적 라우팅, 지연 시간, 사용 맥락과 관련된 필드도 포함됩니다. 예를 들어 요청이 스트리밍되었거나 취소되었는지, 또는 도구 호출 기능이 사용되었는지를 보여 줍니다. 이러한 속성을 종합하면 실제 모델 사용 방식에 대한 상세하면서도 비텍스트적인 관점을 확인할 수 있습니다.

이 메타데이터를 기반으로 한 모든 분석, 집계 및 대부분의 시각화는 버전이 지정된 SQL 쿼리, 변환 및 최종 그림 생성을 위한 재현 가능한 파이프라인을 제공한 Hex 분석 플랫폼을 사용하여 수행되었습니다.

이 데이터셋은 관찰 데이터임을 강조합니다. 즉, 모델 가용성, 가격, 사용자 선호에 따라 형성되는 OpenRouter 플랫폼의 실제 활동을 반영합니다. 2025년 기준으로 OpenRouter는 70개 이상의 제공업체에서 제공하는 300개 이상의 활성 모델을 지원하며, 수백만 명의 개발자와 최종 사용자가 이용하고 있습니다. 사용량의 50% 이상은 미국 외 지역에서 발생합니다. 플랫폼 외부의 일부 사용 패턴은 포착되지 않지만, OpenRouter의 전 세계적 규모와 다양성은 대규모 LLM 사용 동향을 대표적으로 살펴볼 수 있는 관점을 제공합니다.

콘텐츠 분류를 위한 GoogleTagClassifier

이 연구에서는 사용자 프롬프트나 모델 출력에 직접 액세스할 수 없었습니다. 대신 OpenRouter는 모든 프롬프트의 약 0.25%를 구성하는 무작위 샘플과 그 응답을 대상으로 비독점 GoogleTagClassifier 모듈을 사용해 내부적으로 분류합니다. 이는 전체 활동의 일부에 불과하지만, OpenRouter가 처리하는 전체 쿼리 양을 고려하면 기본 데이터 세트는 여전히 상당한 규모입니다. GoogleTagClassifier는 Google Cloud Natural Language의 classifyText 콘텐츠 분류 API와 연동됩니다

API는 텍스트 입력에 계층적이고 언어에 구애받지 않는 분류 체계를 적용하여 하나 이상의 카테고리 경로(예: /Computers & Electronics/Programming, /Arts & Entertainment/Roleplaying Games)와 해당 신뢰도 점수([0,1] 범위)를 반환합니다. 분류기는 프롬프트 데이터의 처음 1,000자까지 직접 처리합니다. 분류기는 OpenRouter 인프라 내에 배포되어 분류 결과가 익명으로 유지되고 개별 고객과 연결되지 않도록 합니다. 기본 임계값 0.5보다 낮은 신뢰도 점수의 카테고리는 추가 분석에서 제외됩니다. 분류 시스템 자체는 전적으로 OpenRouter 인프라 내에서 작동하며 이 연구의 일부가 아니었습니다. 분석에는 원본 프롬프트 내용이 아니라 결과로 생성된 카테고리 출력(사실상 프롬프트 분류를 설명하는 메타데이터)만 사용했습니다.

이처럼 세분화된 레이블을 대규모로 유용하게 활용하기 위해 GoogleTagClassifier의 분류 체계를 연구에서 정의한 간결한 버킷 집합에 매핑하고 각 요청에 태그를 할당합니다. 각 태그는 상위 수준의 카테고리 하나에 일대일로 연결됩니다. 대표적인 매핑은 다음과 같습니다:

  • 프로그래밍: 분류 기준 /Computers & Electronics/Programming 또는 /Science/Computer Science/*
  • 역할극: 분류 기준 /Games/Roleplaying Games 및 다음 경로 아래의 창의적 대화 항목 /Arts & Entertainment/*
  • 번역: 분류 기준 /Reference/Language Resources/*
  • 일반 Q&A / 지식: 분류 기준 /Reference/General Reference/* 및 /News/* (의도가 사실 조회인 경우)
  • 생산성/글쓰기: 분류 기준 /Computers & Electronics/Software/Business & Productivity Software 또는 /Business & Industrial/Business Services/Writing & Editing Services
  • 교육: 분류 기준 /Jobs & Education/Education/*
  • 문학/창작 글쓰기: 분류 기준 /Books & Literature/* 및 다음 경로 아래의 서술 항목 /Arts & Entertainment/*
  • 성인: 분류 기준 /Adult
  • 기타: 지배적인 매핑이 적용되지 않는 롱테일 프롬프트에 사용됩니다. (참고: 아래 분석 대부분에서는 이 범주를 제외합니다.)

이 접근 방식에는 본질적인 한계가 있습니다. 예를 들어, 미리 정의된 분류 체계에 의존하기 때문에 새롭거나 여러 도메인에 걸친 행동을 분류하는 방식이 제한되며, 특정 상호작용 유형은 아직 기존 분류에 깔끔하게 들어맞지 않을 수 있습니다. 실제로 콘텐츠가 서로 겹치는 도메인에 걸쳐 있을 때 일부 프롬프트에는 여러 카테고리 레이블이 지정됩니다. 그럼에도 분류기를 기반으로 한 분류는 후속 분석을 위한 관점을 제공합니다. 이를 통해 단지 얼마나 많이 LLM이 사용되는지뿐 아니라 무엇에 사용되는지도 정량화할 수 있습니다.

모델 및 토큰 변형

몇 가지 변형은 명시적으로 짚고 넘어갈 필요가 있습니다:

  • 오픈 소스와 독점 소스 비교: 가중치가 공개된 모델은 오픈 소스(간단히 OSS) 모델로, 제한된 API(예: Anthropic의 Claude)로만 액세스할 수 있는 모델은 클로즈드 소스 모델로 분류합니다. 이러한 구분을 통해 커뮤니티 주도 모델과 독점 모델의 도입을 측정할 수 있습니다.
  • 개발 지역(중국과 그 외 지역 비교): 중국 LLM의 성장과 고유한 생태계를 고려하여 모델을 주요 개발 지역에 따라 분류합니다. 중국 모델 범주에는 중국, 대만 또는 홍콩의 조직이 개발한 모델(예: Alibaba의 Qwen, Moonshot AI의 Kimi 또는 DeepSeek)이 포함됩니다. RoW(그 외 지역) 모델 범주에는 북미, 유럽 및 기타 지역의 모델이 포함됩니다.
  • 프롬프트 토큰과 완성 토큰 비교: 토큰은 프롬프트 토큰(모델에 제공된 입력 텍스트)과 완성 토큰(모델이 생성한 출력)으로 구분합니다. 총 토큰 수는 프롬프트 토큰과 완성 토큰의 합계입니다. 추론 토큰 항목은 기본 추론 기능을 갖춘 모델의 내부 추론 단계를 나타내며 완성 토큰에 포함됩니다.

달리 명시되지 않는 한, 토큰량 지표는 프롬프트(입력) 토큰과 완성(출력) 토큰의 합계를 의미합니다.

지역별 세분화

LLM 사용량의 지역별 패턴을 파악하기 위해 사용자 지리 정보에 따라 요청을 구분합니다. 직접 요청 메타데이터(예: IP 기반 위치)는 일반적으로 부정확하거나 익명화되어 있습니다. 대신 각 계정에 연결된 청구 위치 를 기준으로 사용자 지역을 파악합니다. 청구 데이터에는 사용자의 결제 수단 또는 계정 등록과 연결된 국가나 지역이 반영되므로, 이는 사용자 지리를 더 안정적으로 추정할 수 있는 지표입니다. 지역별 도입 현황과 모델 선호도 분석에는 이 청구 기반 구분을 사용합니다.

이 방법에는 한계가 있습니다. 일부 사용자는 실제 위치와 일치하지 않을 수 있는 제3자 결제 또는 공유 조직 계정을 사용합니다. 엔터프라이즈 계정은 하나의 청구 주체 아래 여러 지역의 활동을 집계할 수 있습니다. 이러한 불완전성에도 불구하고, 청구 지역은 우리가 액세스할 수 있었던 메타데이터를 바탕으로 개인정보를 보호하며 지리적 분석을 수행할 때 이용 가능한 지표 중 가장 안정적이고 해석하기 쉬운 지표입니다.

기간 및 범위

분석은 주로 2025년 11월에 끝나는 13개월의 이동 기간을 다루지만, 모든 기반 메타데이터가 이 전체 기간을 포함하는 것은 아닙니다. 대부분의 모델 수준 및 가격 분석은 2024년 11월 3일부터 2025년 11월 30일까지의 기간을 대상으로 했습니다. 그러나 카테고리 수준 분석(특히 GoogleTagClassifier 분류 체계를 사용한 분석)은 2025년 5월에 시작되는 더 짧은 기간을 기준으로 합니다. OpenRouter에서 일관된 태깅을 사용할 수 있게 된 시점이기 때문입니다. 특히 상세 작업 분류 필드(예: 프로그래밍, 역할극 또는 기술 등의 태그)는 2025년 중반에야 추가되었습니다. 따라서 Categories 섹션의 모든 결과는 이전 1년 전체가 아니라 2025년 중반의 사용량을 대표하는 것으로 해석해야 합니다.

달리 명시되지 않는 한 모든 시계열 집계는 UTC로 정규화된 타임스탬프를 사용하여 주 단위로 계산하며, 프롬프트 토큰과 완료 토큰을 합산합니다. 이 접근 방식은 모델군 간 비교 가능성을 보장하고 일시적인 급증이나 지역별 시간대 효과로 인한 편향을 최소화합니다.

오픈 소스 모델과 클로즈드 소스 모델

오픈 소스 모델과 폐쇄형 소스 모델 비중
오픈 소스 모델과 클로즈드 소스 모델의 구성 비율. 출처 유형별 전체 토큰 볼륨의 주간 비중. 밝은 파란색 음영은 오픈 웨이트 모델(중국 및 기타 지역)을 나타내며, 진한 파란색은 독점(클로즈드) 모델을 나타냅니다. 세로 점선은 다음과 같은 주요 오픈 웨이트 모델의 출시 시점을 표시합니다. Llama 3.3 70B, DeepSeek V3, DeepSeek R1, Kimi K2, GPT OSS 제품군 및 Qwen 3 Coder.

AI 생태계의 핵심 질문 중 하나는 오픈 웨이트 모델(간단히 OSS라고 줄여 부름)과 독점 모델 간의 균형입니다. 아래 수치는 지난 1년 동안 OpenRouter에서 이 균형이 어떻게 변화했는지 보여줍니다. 특히 북미 주요 제공업체의 독점 모델이 여전히 토큰의 대부분을 처리하지만, OSS 모델은 꾸준히 성장하여 2025년 말에는 사용량의 약 3분의 1에 도달했습니다.

이러한 확장은 우연한 현상이 아닙니다. 사용량 급증은 DeepSeek V3 및 Kimi K2 등 주요 오픈 모델 출시(첫 번째 그림의 세로 점선으로 표시됨)와 일치하며, 이는 DeepSeek V3 및 GPT OSS 모델 등 경쟁력 있는 OSS 출시 모델이 빠르게 도입되고 그 성과를 유지한다는 점을 시사합니다. 중요한 점은 이러한 증가세가 초기 출시 주간 이후에도 지속된다는 것이며, 이는 단기적인 실험이 아닌 실제 프로덕션 사용을 의미합니다.

모델 유형별 주간 토큰 볼륨
모델 유형별 주간 토큰 볼륨. 시간 경과에 따른 카테고리별 총 토큰 사용량을 보여주는 누적 막대 차트입니다. 진한 빨간색은 독점 모델(클로즈드)을, 주황색은 중국 오픈 소스 모델(중국 OSS)을, 청록색은 중국 외 지역에서 개발된 오픈 소스 모델(RoW OSS)을 나타냅니다. 차트는 2025년 동안 OSS 토큰 비중이 점진적으로 증가했으며, 특히 연중반부터 중국 OSS 모델의 비중이 커졌음을 보여줍니다.

이 성장의 상당 부분은 중국에서 개발된 모델에서 비롯되었습니다. 2024년 말에는 미미한 수준(주간 비중 최저 1.2%)에서 시작했지만 중국 OSS 모델은 꾸준히 기반을 넓혀 일부 주에는 전체 모델 사용량의 거의 30%에 도달했습니다. 1년 동안 중국 OSS 모델의 주간 토큰 볼륨 평균은 약 13.0%였으며, 성장은 2025년 하반기에 집중되었습니다. 비교를 위해 RoW OSS 모델의 평균은 13.7%였고, 독점 RoW 모델은 평균 70%로 가장 큰 비중을 유지했습니다. 중국 OSS의 확장은 경쟁력 있는 품질뿐 아니라 빠른 반복 개발과 촘촘한 출시 주기를 반영합니다. Qwen과 DeepSeek 같은 모델은 정기적으로 모델을 출시하여 새로운 워크로드에 빠르게 적응할 수 있었습니다. 이러한 패턴은 오픈 소스 부문을 크게 재편했으며 LLM 업계 전반의 글로벌 경쟁을 진전시켰습니다.

이러한 추세는 LLM 생태계에 지속 가능한 이중 구조가 존재함을 보여줍니다. 독점 시스템은 특히 규제 대상 또는 엔터프라이즈 워크로드에서 신뢰성과 성능의 상한선을 계속 정의합니다. 반면 OSS 모델은 비용 효율성, 투명성 및 맞춤 설정 기능을 제공하므로 특정 워크로드에 매력적인 선택지입니다. 현재 균형점은 대략 30%에서 형성됩니다. 이러한 모델은 상호 배타적이지 않으며, 개발자와 인프라 제공업체가 점점 더 선호하는 다중 모델 스택 안에서 서로를 보완합니다.

주요 오픈 소스 플레이어

아래 표는 제공된 총 토큰 볼륨을 기준으로 데이터세트의 상위 모델군 순위를 매긴 것입니다. OSS 모델의 지형은 지난 1년 동안 크게 변화했습니다. DeepSeek가 여전히 볼륨 기준으로 가장 큰 단일 OSS 기여자이지만, 새로운 진입자들이 빠르게 성장하면서 그 지배력은 약화되었습니다. 현재 여러 오픈 소스 모델군이 각각 상당한 사용량을 유지하고 있어 생태계가 다변화되었음을 보여줍니다.

모델 작성자별 총 토큰량(2024년 11월–2025년 11월). 모든 모델 변형에서 OpenRouter의 전체 사용량을 합산한 토큰 수를 나타냅니다.
모델 작성자총 토큰(조 단위)
DeepSeek14.37
Qwen5.59
Meta LLaMA3.96
Mistral AI2.92
OpenAI1.65
Minimax1.26
Z-AI1.18
TNGTech1.13
MoonshotAI0.92
Google0.82
시간 경과에 따른 상위 15개 OSS 모델
시간 경과에 따른 상위 15개 OSS 모델. 주요 오픈 소스 모델의 주간 상대 토큰 비중(누적 영역 차트)입니다. 각 색상 띠는 전체 OSS 토큰에서 하나의 모델이 차지하는 기여도를 나타냅니다. 시간이 지남에 따라 색상 구성이 다양해지는 것은 최근 몇 달 동안 단일 지배 모델 없이 경쟁적인 분포가 확대되었음을 보여줍니다.

이 그림은 상위 개별 오픈 소스 모델 간 시장 점유율이 주별로 극적으로 변화한 모습을 보여줍니다. 기간 초반(2024년 말)에는 시장이 고도로 집중되어 있었습니다. DeepSeek 제품군의 두 모델(V3 및 R1)이 전체 OSS 토큰 사용량의 절반 이상을 지속적으로 차지하며 차트 하단의 넓고 짙은 파란색 띠를 형성했습니다.

이러한 사실상 독점적인 구조는 Summer Inflection(2025년 중반) 이후 무너졌습니다. 그 이후 시장은 사용량이 크게 다변화되면서 더 넓고 깊어졌습니다. Qwen 모델, Minimax의 M2, MoonshotAI의 Kimi K2, OpenAI의 GPT-OSS 시리즈 와 같은 신규 진입자 모두가 요청의 상당 부분을 처리할 만큼 빠르게 성장했으며, 출시 후 몇 주 만에 프로덕션 규모로 도입되는 경우가 많았습니다. 이는 오픈 소스 커뮤니티와 AI 스타트업이 새로운 기능이나 뛰어난 효율성을 갖춘 모델을 도입함으로써 빠른 채택을 이끌어 낼 수 있음을 보여 줍니다.

2025년 말에 이르러 경쟁 구도는 사실상 독점에 가까운 상태에서 다원적인 혼합 구도로 바뀌었습니다. OSS 토큰의 25%를 초과하는 단일 모델은 없으며, 현재 토큰 점유율은 5~7개 모델에 걸쳐 더욱 고르게 분산되어 있습니다. 실질적으로 이는 사용자가 하나의 "최선"의 선택지를 기본값으로 삼기보다 더 폭넓은 옵션에서 가치를 찾고 있음을 의미합니다. 이 수치는 절대적인 규모가 아니라 OSS 모델 간 상대적 점유율을 시각화한 것이지만, 오픈 소스 생태계 내부에서 시장이 뚜렷하게 분화되고 경쟁이 심화되는 방향으로 결정적인 변화가 일어나고 있다는 점은 분명합니다.

전반적으로 오픈 소스 모델 생태계는 이제 매우 역동적입니다. 주요 인사이트는 다음과 같습니다.

  • 최상위권의 다양성: 한때 DeepSeek 한 계열이 OSS 사용량을 지배했지만, 이제는 의미 있는 점유율을 각각 유지하는 모델이 6개가량으로 늘어나는 추세입니다. 일관되게 OSS 토큰의 20~25% 이상을 차지하는 단일 오픈 모델은 없습니다.
  • 신규 진입자의 빠른 확장: 역량 있는 신규 오픈 모델은 수 주 만에 상당한 사용량을 확보할 수 있습니다. 예를 들어 MoonshotAI의 모델은 빠르게 성장해 기존 OSS 선두 모델과 경쟁하게 되었고, MiniMax와 같은 신생 모델도 단 한 분기 만에 사용량이 0에서 상당한 트래픽으로 증가했습니다. 이는 전환 장벽이 낮고 사용자가 적극적으로 실험하려 한다는 점을 보여 줍니다.
  • 반복 개선의 이점: DeepSeek가 정상권에 오래 머문 사실은 지속적인 개선이 핵심임을 보여 줍니다. DeepSeek의 연이은 릴리스(Chat-V3, R1 등)는 경쟁 모델이 등장하는 동안에도 경쟁력을 유지하게 했습니다. 개발이 정체된 OSS 모델은 프런티어 성능이나 특정 도메인 파인튜닝을 겨냥해 자주 업데이트되는 모델에 점유율을 빼앗기는 경향이 있습니다.

2025년 현재 오픈 소스 LLM 시장은 혁신 주기가 빠르고 선두 자리가 보장되지 않는 경쟁 생태계의 모습을 보입니다. 모델 개발자에게 이는 최첨단 성능을 갖춘 오픈 모델을 출시하면 즉각적인 도입을 이끌어낼 수 있지만, 사용 점유율을 유지하려면 추가 개발에 지속적으로 투자해야 한다는 의미입니다. 사용자와 애플리케이션 개발자에게는 긍정적인 흐름입니다. 선택할 수 있는 오픈 모델이 더욱 다양해졌고, 특정 영역(예: 롤플레이)에서는 독점 시스템과 비슷하거나 때로는 더 뛰어난 역량을 제공하기 때문입니다.

모델 규모와 시장 적합성: 중간 규모가 새로운 소규모

OSS 모델 규모와 사용량
OSS 모델 규모와 사용량. 소형, 중형, 대형 모델이 제공한 전체 OSS 토큰 볼륨에서 주간 점유율입니다. 백분율은 주간 전체 OSS 사용량을 기준으로 정규화되었습니다.

1년 전만 해도 오픈 소스 모델 생태계는 수많은 소형·고속 모델과 소수의 강력한 대규모 모델이라는 두 극단 사이의 트레이드오프를 중심으로 설명할 수 있었습니다. 그러나 지난 1년을 살펴보면 시장이 크게 성숙했고, 새롭게 성장하는 범주인 중형 모델이 등장했음을 확인할 수 있습니다. 모델은 다음과 같이 파라미터 수를 기준으로 분류합니다.

  • 소형: 파라미터가 150억 개 미만인 모델입니다.
  • 중형: 파라미터가 150억 개 이상 700억 개 이하인 모델입니다.
  • 대형: 파라미터가 700억 개 이상인 모델입니다.

개발자와 사용자 행동에 관한 데이터는 미묘한 양상을 보여 줍니다. 수치를 보면 모든 범주에서 모델 수가 증가한 반면 사용량 은 크게 변화했습니다. 소형 모델의 선호도는 낮아지고 있으며, 중형 및 대형 모델이 그 가치를 차지하고 있습니다.

시간 경과에 따른 규모별 OSS 모델 수
시간에 따른 OSS 모델 수(규모별). 파라미터 규모 범주별로 집계한 주간 가용 오픈 소스 모델 수입니다.

이러한 추세를 이끄는 모델을 더 자세히 살펴보면 뚜렷한 시장 역학이 드러납니다:

  • "소형" 시장: 전반적인 사용량 감소. 새로운 모델이 꾸준히 공급되고 있음에도 소형 모델 범주 전체의 사용량 점유율은 감소하고 있습니다. 이 범주는 높은 세분화가 특징입니다. 어떤 단일 모델도 오랫동안 지배적인 위치를 차지하지 못하며, Meta, Google, Mistral, DeepSeek와 같은 다양한 제공업체에서 새로운 모델이 끊임없이 등장하고 기존 모델을 대체합니다. 예를 들어, Google Gemma 3.12B (2025년 8월 출시)는 빠르게 도입되었지만, 사용자들이 계속해서 다음으로 가장 나은 대안을 찾는 경쟁이 치열한 분야에서 경쟁하고 있습니다.
  • "중형" 시장: "모델-시장 적합성" 찾기. 중형 모델 범주는 시장 창출에 관한 명확한 이야기를 보여 줍니다. 이 세그먼트 자체는 2024년 11월에 Qwen2.5 Coder 32B 모델이 출시되기 전까지 미미했으며, 이 모델이 사실상 이 범주를 확립했습니다. 이후 이 세그먼트는 Mistral Small 3 (2025년 1월) 및 GPT-OSS 20B (2025년 8월) 등 사용자 인지도를 확보한 강력한 경쟁 모델이 등장하면서 경쟁적인 생태계로 성숙했습니다. 이 세그먼트는 사용자가 성능과 효율성 사이의 균형을 찾고 있음을 보여 줍니다.
  • "대형" 모델 세그먼트: 다원적인 구도. "품질을 향한 이동"은 시장 통합이 아니라 다변화로 이어졌습니다. 현재 대형 모델 범주에는 Qwen3 235B A22B Instruct (2025년 7월 출시) 및 Z.AI GLM 4.5 Air 모델부터 OpenAI: GPT-OSS-120B (8월 5일)에 이르기까지 다양한 고성능 경쟁 모델이 있으며, 각 모델이 의미 있고 지속적인 사용량을 확보하고 있습니다. 이러한 다원성은 사용자가 하나의 표준으로 수렴하기보다 여러 오픈 대형 모델을 적극적으로 벤치마킹하고 있음을 시사합니다.

소형 모델이 오픈 소스 생태계를 지배하던 시대는 지나갔을 수 있습니다. 시장은 이제 양분되고 있으며, 사용자는 새로운 강력한 중형 모델군으로 이동하거나 가장 역량이 뛰어난 단일 대형 모델에 워크로드를 집중하고 있습니다.

오픈 소스 모델은 어디에 사용되나요?

오늘날 오픈 소스 모델은 창작, 기술 및 정보 영역에 걸쳐 매우 광범위한 작업에 사용됩니다. 독점 모델이 구조화된 비즈니스 작업에서 여전히 우위를 점하는 반면, OSS 모델은 두 가지 특정 영역에서 선두를 차지했습니다: 창의적 롤플레이 및 프로그래밍 지원. 이 두 범주가 OSS 토큰 사용량의 대부분을 차지합니다.

OSS 모델의 카테고리 추세
OSS 모델의 범주별 동향. 상위 수준의 작업 범주별 오픈 소스 모델 사용량 분포입니다. 롤플레이(약 52%)와 프로그래밍이 꾸준히 OSS 워크로드 구성에서 가장 큰 비중을 차지하며, 합쳐서 OSS 토큰의 대부분을 차지합니다. 그 밖의 소규모 세그먼트로는 번역, 일반 지식 Q&A 등이 있습니다.

위 그림은 전체 OSS 모델 사용량의 절반 이상이 롤플레이에 해당하며, 프로그래밍 이 두 번째로 큰 범주임을 보여 줍니다. 이는 사용자가 주로 창의적인 상호작용 대화(스토리텔링, 캐릭터 롤플레이, 게임 시나리오 등)와 코딩 관련 작업에 오픈 모델을 사용한다는 뜻입니다. 전체 OSS 토큰의 50%를 넘나드는 롤플레이의 우세는 오픈 모델이 강점을 보이는 사용 사례를 보여 줍니다. 오픈 모델은 창의적인 작업에 활용할 수 있고 콘텐츠 필터의 제약을 덜 받는 경우가 많아 판타지나 엔터테인먼트 애플리케이션에 매력적입니다. 롤플레이 작업에는 유연한 응답, 맥락 유지, 감정적 뉘앙스가 필요하며, 오픈 모델은 상용 안전성 또는 중재 계층의 강한 제한 없이 이러한 특성을 효과적으로 제공할 수 있습니다. 따라서 캐릭터 중심 경험, 팬 픽션, 인터랙티브 게임, 시뮬레이션 환경을 실험하는 커뮤니티에 특히 매력적입니다.

중국 OSS 카테고리 추세
중국 OSS 카테고리 동향. 중국에서 개발된 오픈 소스 모델의 카테고리 구성입니다. 롤플레이가 여전히 단일 사용 사례로는 가장 큰 비중을 차지하지만, 프로그래밍과 기술을 합친 비중은 전체 OSS 구성보다 여기에서 더 높습니다(33% 대 38%).

위 그림은 중국 OSS 모델만 확대했을 때 시간에 따른 카테고리별 분류를 보여줍니다. 이제 이러한 모델은 주로 창의적인 작업에 사용되지 않습니다. 롤플레이가 약 33%로 여전히 가장 큰 카테고리이지만, 프로그래밍과 기술이 이제 사용량의 과반을 합쳐서 차지합니다(39%). 이러한 변화는 Qwen 및 DeepSeek 와 같은 모델이 코드 생성 및 인프라 관련 워크로드에 점점 더 많이 사용되고 있음을 보여줍니다. 대규모 엔터프라이즈 사용자가 특정 세그먼트에 영향을 미칠 수 있지만, 전반적인 추세는 중국 OSS 모델이 기술 및 생산성 영역에서 직접 경쟁하고 있음을 나타냅니다.

모델 출처별 프로그래밍 질의
모델 출처별 프로그래밍 질의. 독점 모델, 중국 OSS, 비중국권(나머지 세계) OSS 모델이 처리한 프로그래밍 관련 토큰 볼륨의 점유율입니다. OSS 세그먼트에서는 2025년 말 나머지 세계 OSS 쪽으로 균형이 크게 이동했으며, 현재 전체 오픈 소스 코딩 토큰의 절반 이상을 차지합니다(이전에는 중국 OSS가 OSS 코딩 사용량을 지배하던 시기가 있었습니다).

프로그래밍 범주만 확대해 보면, Anthropic의 Claude와 같은 강력한 제품에 힘입어 전반적인 코딩 지원의 대부분은 여전히 독점 모델(회색 영역)이 처리하고 있습니다. 그러나 OSS 영역에서는 눈에 띄는 변화가 있었는데, 2025년 중반에는 Qwen 3 Coder와 같은 초기 성공 사례에 힘입어 중국 OSS 모델(파란색)이 오픈 소스 코딩 지원의 대부분을 제공했습니다. 2025년 4분기에는 Meta의 LLaMA-2 Code와 OpenAI의 GPT-OSS 시리즈 같은 서구 OSS 모델(주황색)이 급증했지만 최근 몇 주 동안 전체 점유율은 감소했습니다. 이러한 등락은 매우 경쟁적인 환경을 보여 줍니다. 실질적인 시사점은 오픈 소스 코드 어시스턴트 사용량이 역동적이고 새 모델의 품질에 매우 민감하여, 개발자가 현재 가장 뛰어난 코딩 지원을 제공하는 OSS 모델이라면 무엇이든 기꺼이 선택한다는 것입니다. 다만 이 그림은 절대적인 볼륨을 보여 주지 않는다는 한계가 있으며, 오픈 소스 코딩 사용량은 전반적으로 증가했으므로 파란색 영역이 줄었다고 해서 중국 OSS의 사용자가 감소했다는 뜻은 아니고 상대적 점유율만 낮아졌다는 의미입니다.

모델 출처별 역할극 질의
모델 출처별 롤플레이 질의. 중국 OSS 모델과 나머지 세계 OSS 모델로 나눈 롤플레이 사용 사례의 토큰 볼륨입니다. 롤플레이는 두 그룹 모두에서 가장 큰 범주이며, 2025년 말에는 중국 및 비중국 오픈 모델 간 트래픽이 대략 균등하게 나뉘었습니다.

이제 롤플레이 트래픽만 살펴보면 최근 몇 주 동안 기타 지역 OSS(주황색, 43%)와 폐쇄형 모델(회색, 최근 약 42%)이 거의 동일한 비중으로 처리하고 있음을 알 수 있습니다. 이는 2025년 초 이 범주가 약 70%의 토큰 점유율을 차지한 독점 모델(회색)에 의해 지배되던 것과 크게 달라진 모습입니다. 당시(2025년 5월) 서구 OSS 모델은 트래픽의 약 22%에 불과했고, 중국 OSS(파란색) 모델의 점유율은 약 8%로 작았습니다. 한 해 동안 독점 모델의 점유율은 꾸준히 하락했습니다. 2025년 10월 말에는 서구와 중국의 오픈 소스 모델이 모두 상당한 점유율을 확보하면서 이러한 추세가 가속화되었습니다.

그 결과 나타난 수렴은 건전한 경쟁을 의미합니다. 사용자는 창의적인 대화와 스토리텔링을 위해 오픈 모델과 독점 모델 양쪽에서 실질적인 선택지를 얻고 있습니다. 이는 개발자가 롤플레이/채팅 모델에 대한 수요를 인식하고 그 목적에 맞게 출시 제품을 조정하고 있음을 보여 줍니다(예: 대화 데이터로 파인튜닝하고 캐릭터 일관성을 위한 정렬을 추가). 한 가지 유의할 점은 "롤플레이"가 가벼운 채팅부터 복잡한 게임 시나리오까지 다양한 하위 장르를 포함한다는 것입니다. 그러나 거시적인 관점에서 보면 이 창의적 영역에서 OSS 모델이 우위를 점하고 있음은 분명합니다.

해석. OSS 생태계 전반에서 주요 사용 사례는 다음과 같습니다: 역할극 및 창의적 대화: 가장 큰 범주로, 오픈 모델은 검열되지 않았거나 가상의 페르소나 및 스토리 작업에 맞게 더 쉽게 사용자 지정할 수 있기 때문일 가능성이 큽니다. 프로그래밍 지원: 두 번째로 큰 사용 사례이며, 오픈 모델의 코드 작성 역량이 향상되면서 성장하고 있습니다. 많은 개발자가 API 비용을 피하기 위해 로컬에서 OSS 모델을 코딩에 활용합니다. 번역 및 다국어 지원: 꾸준히 사용되는 사례로, 특히 강력한 이중 언어 모델을 사용할 수 있을 때 그렇습니다(중국어 OSS 모델이 이 분야에서 우위를 보입니다). 일반 지식 질의응답 및 교육: 사용량은 보통 수준입니다. 오픈 모델도 질문에 답할 수 있지만, 사용자는 가장 높은 사실 정확도를 위해 GPT-5 와 같은 폐쇄형 모델을 선호할 수 있습니다.

OSS 사용 패턴(롤플레잉 중심)은 많은 사람이 "애호가"나 "인디 개발자"의 영역으로 여길 만한 분야, 즉 절대적인 정확성보다 맞춤화와 비용 효율성이 더 중요한 분야와 닮아 있다는 점은 주목할 만합니다. 다만 그 경계는 흐려지고 있으며, OSS 모델은 기술 분야에서 빠르게 발전하고 있고 독점 모델도 창의적으로 활용되고 있습니다.

에이전트형 추론의 부상

이전 섹션에서 살펴본 모델 환경의 변화(오픈 소스 대 클로즈드 소스)에 이어, 이제 LLM 사용 자체의 근본적인 형태 측면을 살펴보겠습니다. 프로덕션에서 언어 모델을 사용하는 방식에 근본적인 변화가 진행되고 있습니다. 단일 턴 텍스트 완성에서 다단계 도구 통합 및 추론 중심 워크플로로의 변화입니다. 이 변화를 에이전트형 추론의 부상이라고 부릅니다. 모델이 단순히 텍스트를 생성하는 데 그치지 않고 계획 수립, 도구 호출 또는 장기간의 컨텍스트에 걸친 상호작용을 통해 작업을 수행하는 방식입니다. 이 섹션에서는 추론 모델의 부상, 도구 호출 동작의 확대, 시퀀스 길이 분포의 변화, 프로그래밍 사용이 복잡성을 높이는 방식이라는 다섯 가지 지표를 통해 이러한 변화를 추적합니다.

이제 추론 모델이 전체 사용량의 절반을 차지합니다

추론 토큰과 비추론 토큰 추세
추론 토큰과 비추론 토큰 동향. 2025년 초부터 전체 토큰 중 추론 최적화 모델을 통해 라우팅된 토큰의 비중이 꾸준히 증가했습니다. 이 지표는 모델 출력 내 "추론 토큰"의 비중이 아닌 추론 모델이 처리한 토큰이 전체 토큰에서 차지하는 비중을 나타냅니다.

위 그림에 표시된 것처럼, 추론 최적화 모델을 통해 라우팅된 전체 토큰의 비중이 2025년에 급격히 증가했습니다. 1분기 초에는 사실상 무시할 수 있을 정도로 적었던 사용량이 이제 50%를 초과합니다. 이러한 변화는 시장의 양쪽 측면을 모두 반영합니다. 공급 측면에서는 GPT-5, Claude 4.5, Gemini 3 등 더 높은 성능을 갖춘 시스템이 출시되면서 사용자가 단계적 추론에 기대할 수 있는 수준이 높아졌습니다. 수요 측면에서는 단순히 텍스트를 생성하는 모델보다 작업 상태를 관리하고, 다단계 논리를 따르며, 에이전트 스타일의 워크플로를 지원할 수 있는 모델을 사용자가 점점 더 선호하고 있습니다.

토큰 볼륨 기준 상위 추론 모델
토큰량 기준 상위 추론 모델 추론 모델 중에서는 현재 xAI의 Grok Code Fast 1 모델이 추론 관련 토큰 트래픽에서 가장 큰 비중을 처리하고 있으며, Google의 Gemini 2.5 Pro 및 Gemini 2.5 Flash가 그 뒤를 잇습니다. xAI의 Grok 4 Fast 및 OpenAI의 gpt-oss-120b 모델이 상위 그룹을 완성합니다.

위 그림은 이러한 변화를 이끄는 주요 모델을 보여 줍니다. 가장 최근 데이터에서는 xAI의 Grok Code Fast 1 이(가) Google의 Gemini 2.5 Pro 와 Gemini 2.5 Flash를 앞서며 현재 추론 트래픽에서 가장 큰 비중을 차지하고 있습니다(무료 출시 액세스 제외). 불과 몇 주 전만 해도 Gemini 2.5 Pro 가 이 부문을 이끌었고 DeepSeek R1 과 Qwen3 도 상위권에 있었습니다. Grok Code Fast 1 과 Grok 4 Fast 는 xAI의 공격적인 출시, 경쟁력 있는 가격, 코드 중심 변형 모델에 대한 개발자들의 관심에 힘입어 빠르게 점유율을 높였습니다. 동시에 OpenAI의 gpt-oss-120b 와 같은 오픈 모델이 계속 사용되고 있다는 점은 개발자들이 가능할 때 여전히 OSS를 선택한다는 사실을 보여 줍니다. 전반적인 구성은 추론 환경이 얼마나 역동적으로 변했는지를 보여 주며, 빠른 모델 교체가 실제 워크로드를 지배하는 시스템을 형성하고 있습니다.

데이터는 명확한 결론을 보여줍니다. 추론 중심 모델이 실제 워크로드의 기본 경로가 되고 있으며, 이를 통해 흐르는 토큰의 비중은 이제 사용자가 AI 시스템과 상호작용하기를 원하는 방식을 나타내는 선행 지표입니다.

도구 호출의 확산

도구 호출
도구 호출. 종료 사유가 Tool Call로 분류된 요청에 대해 정규화한 전체 토큰의 비중입니다. 즉, 요청 중 실제로 도구가 호출된 경우를 의미합니다. 이 지표는 성공적으로 호출된 도구만 반영하며, 도구 정의가 포함된 요청 수는 비례적으로 더 높습니다.

위 그림에서는 종료 사유가 Tool Call인 요청에서 발생한 전체 토큰의 비중을 보고합니다. 이 지표는 정규화된 값이며 실제로 도구가 호출된 상호작용만 포착합니다.

이는 요청 중 모델에 도구가 제공되었는지를 기록하는 Input Tool 신호와 대조됩니다(호출 여부와 무관). 도구 제공은 성공적인 실행의 상위 집합이므로 Input Tool 수는 정의상 Tool Call 종료 사유보다 높습니다. 종료 사유 지표가 실제 도구 사용을 측정한다면 Input Tool은 실제 호출이 아니라 잠재적 사용 가능성을 반영합니다. 이 지표는 2025년 9월에야 도입되었으므로 이 문서에서는 보고하지 않습니다.

위 그림에서 5월에 나타난 눈에 띄는 급증은 주로 한 대형 계정의 활동이 전체 볼륨을 일시적으로 끌어올린 데 따른 것입니다. 이 이상 현상을 제외하면 도구 도입은 연중 일관된 상승 추세를 보였습니다.

도구 제공량 기준 상위 모델
도구 제공량 기준 상위 모델. 도구 제공은 Claude Sonnet, Gemini Flash와 같이 에이전트형 추론에 명시적으로 최적화된 모델에 집중되어 있습니다.

위 그림에 표시된 것처럼 도구 호출은 처음에 소수의 모델에 집중되어 있었습니다. OpenAI의 gpt-4o-mini 및 Anthropic의 Claude 3.5 및 3.7 시리즈가 2025년 초 도구가 활성화된 토큰의 대부분을 함께 차지했습니다. 그러나 연중반에는 더 광범위한 모델이 도구 제공을 지원하기 시작했으며, 이는 더욱 경쟁적이고 다변화된 생태계를 반영합니다. 9월 말부터 새로운 Claude 4.5 Sonnet 모델이 빠르게 점유율을 확보했습니다. 한편 Grok Code Fast 및 GLM 4.5 같은 새로운 모델도 눈에 띄는 진전을 보이며, 도구를 사용할 수 있는 배포 환경에서 더 폭넓은 실험과 다변화를 반영했습니다.

운영자에게 시사점은 분명합니다. 고가치 워크플로에서 도구 사용을 활성화하는 추세가 증가하고 있습니다. 안정적인 도구 형식을 지원하지 않는 모델은 엔터프라이즈 도입 및 오케스트레이션 환경에서 뒤처질 위험이 있습니다.

프롬프트-완성 형태의 구조

프롬프트 토큰 수가 증가하고 있습니다
프롬프트 토큰 수 증가. 평균 프롬프트 토큰 길이는 2024년 초 이후 거의 4배 증가했으며, 이는 점점 더 컨텍스트 중심적인 워크로드를 반영합니다.
완료 토큰 수 거의 3배 증가
완성 토큰 수 거의 3배 증가. 출력 길이도 증가했지만 더 작은 기준선에서 시작했으며, 이는 주로 추론 토큰에 의해 더 풍부하고 상세한 응답이 생성되고 있음을 시사합니다.
프롬프트 토큰 증가를 이끄는 주요 요인으로서의 프로그래밍
프롬프트 토큰 증가를 이끄는 주요 요인, 프로그래밍. 태그를 2025년 봄부터 사용할 수 있게 된 이후 프로그래밍 관련 작업은 일관되게 가장 큰 입력 컨텍스트를 필요로 했습니다.

모델 워크로드의 형태는 지난 1년 동안 크게 변화했습니다. 프롬프트(입력)와 완료(출력) 토큰 볼륨은 모두 급격히 증가했지만, 규모와 속도는 서로 달랐습니다. 요청당 평균 프롬프트 토큰은 약 1.5K에서 6K 이상으로 대략 4배 증가했고, 완료 토큰은 약 150개에서 400개로 거의 3배 증가했습니다. 성장 규모의 차이는 더욱 복잡하고 풍부한 컨텍스트를 요구하는 워크로드로의 결정적인 전환을 보여줍니다.

이러한 패턴은 모델 사용에서 새로운 균형이 형성되고 있음을 보여줍니다. 오늘날의 일반적인 요청은 "에세이를 써 줘"와 같은 개방형 생성보다는 코드베이스, 문서, 트랜스크립트 또는 긴 대화처럼 사용자가 제공한 상당한 자료를 분석하고 간결하면서도 가치 높은 인사이트를 생성하는 데 더 가깝습니다. 모델은 점점 창작 생성기보다 분석 엔진으로 작동하고 있습니다.

범주 수준의 데이터(2025년 봄 이후에만 제공됨)는 보다 정교한 양상을 보여줍니다. 프로그래밍 워크로드가 프롬프트 토큰 증가를 이끄는 주요 요인입니다. 코드 이해, 디버깅, 코드 생성과 관련된 요청은 정기적으로 20K가 넘는 입력 토큰을 요구하는 반면, 다른 모든 범주는 상대적으로 평평하고 낮은 볼륨을 유지합니다. 이러한 비대칭적 기여는 최근 프롬프트 크기 확대가 작업 전반에 걸친 균일한 추세가 아니라 소프트웨어 개발 및 기술 추론 사용 사례에 집중된 급증임을 시사합니다.

더 긴 시퀀스, 더 복잡한 상호작용

시간에 따른 평균 시퀀스 길이
시간에 따른 평균 시퀀스 길이. 생성당 평균 토큰 수(프롬프트 + 완료).
프로그래밍과 전체 사용량의 시퀀스 길이
프로그래밍과 전체 사용량의 시퀀스 길이 비교. 프로그래밍 프롬프트는 일관되게 더 길며 더 빠르게 증가하고 있습니다.

시퀀스 길이는 작업 복잡도와 상호작용 깊이를 나타내는 대리 지표입니다. 위 그림은 평균 시퀀스 길이가 지난 20개월 동안 2023년 말 2,000토큰 미만에서 2025년 말 5,400토큰 이상으로 3배 넘게 증가했음을 보여 줍니다. 이러한 성장은 더 긴 컨텍스트 윈도우, 더 깊은 작업 기록, 더 정교한 완성 결과를 향한 구조적 변화를 반영합니다.

이전 섹션에서 살펴본 것처럼 두 번째 그림은 이를 더욱 명확히 보여 줍니다. 이제 프로그래밍 관련 프롬프트의 평균 토큰 길이는 일반 목적 프롬프트의 3~4배에 달합니다. 이러한 격차는 소프트웨어 개발 워크플로가 더 긴 상호작용의 주요 동인임을 나타냅니다. 긴 시퀀스는 단순히 사용자가 장황해서 생기는 현상이 아니라, 더 복잡하고 정교한 에이전트형 워크플로가 내장되어 있음을 보여 주는 특징입니다.

시사점: 에이전트형 추론이 새로운 기본값입니다

이러한 추세(추론 비중의 증가, 확장된 도구 사용, 더 긴 시퀀스, 그리고 프로그래밍의 압도적인 복잡성)를 종합하면 LLM 사용의 중심축이 이동했음을 알 수 있습니다. 이제 일반적인 LLM 요청은 단순한 질문이나 독립적인 지시가 아닙니다. 대신 외부 도구를 호출하고, 상태를 바탕으로 추론하며, 더 긴 컨텍스트에 걸쳐 지속되는 구조화된 에이전트형 루프의 일부입니다.

모델 제공업체 입장에서는 기본 기능에 대한 기준이 높아지고 있습니다. 지연 시간, 도구 처리, 컨텍스트 지원, 잘못 구성되었거나 적대적인 도구 체인에 대한 견고성은 점점 더 중요해지고 있습니다. 인프라 운영자 입장에서는 이제 추론 플랫폼이 무상태 요청뿐 아니라 장시간 실행되는 대화, 실행 추적, 권한에 민감한 도구 통합도 관리해야 합니다. 이미 그렇지 않더라도 머지않아 에이전트형 추론이 전체 추론의 대부분을 차지하게 될 것입니다.

카테고리: 사람들은 LLM을 어떻게 사용하고 있을까요?

사용자가 LLM으로 수행하는 작업의 분포를 이해하는 것은 실제 수요와 모델-시장 적합성을 평가하는 데 핵심적입니다. 데이터 및 방법론 섹션에서 설명한 것처럼, 수십억 건의 모델 상호작용을 상위 수준의 애플리케이션 범주로 분류했습니다. 오픈 소스 모델과 폐쇄형 모델 섹션에서는 커뮤니티 주도의 사용 양상을 확인하기 위해 오픈 소스 모델에 초점을 맞췄습니다. 여기서는 범위를 모든 OpenRouter LLM 사용량(폐쇄형 모델과 오픈 모델 모두)으로 넓혀 사람들이 실제로 LLM을 어떤 용도로 사용하는지 종합적으로 살펴봅니다.

주요 카테고리

지배적이고 성장하는 카테고리로서의 프로그래밍
지배적이고 성장하는 카테고리로서의 프로그래밍. 프로그래밍으로 분류된 전체 LLM 쿼리의 비중은 꾸준히 증가했으며, 이는 AI 지원 개발 워크플로의 확산을 반영합니다.

프로그래밍은 모든 모델에서 가장 꾸준히 확장된 카테고리가 되었습니다. 프로그래밍 관련 요청의 비중은 2025년 내내 꾸준히 증가했으며, 이는 LLM 기반 개발 환경과 도구 통합의 확산과 나란히 진행되었습니다. 위 그림에 표시된 것처럼 프로그래밍 쿼리는 2025년 초 전체 토큰 사용량의 약 11%를 차지했으며 최근 몇 주 동안 50%를 초과했습니다. 이러한 추세는 탐색적 또는 대화형 사용에서 코드 생성, 디버깅, 데이터 스크립팅과 같은 실용적인 작업으로의 전환을 반영합니다. LLM이 개발자 워크플로에 통합되면서 프로그래밍 도구로서의 역할이 일반화되고 있습니다. 이러한 변화는 코드 중심의 학습 데이터에 대한 강조 증가, 다단계 프로그래밍 작업을 위한 추론 깊이 향상, 모델과 통합 개발 환경 간의 더욱 긴밀한 피드백 루프를 포함하여 모델 개발에 영향을 미칩니다.

프로그래밍 지원에 대한 이러한 수요 증가는 모델 제공업체 전반의 경쟁 구도를 재편하고 있습니다. 아래 그림에서 볼 수 있듯이 Anthropic의 Claude 시리즈는 해당 카테고리에서 지속적으로 우위를 차지하며, 관찰 기간 대부분 동안 프로그래밍 관련 지출의 60% 이상을 차지했습니다. 그러나 시장 구도는 의미 있게 변화했습니다. 11월 17일 주간에는 Anthropic의 점유율이 처음으로 60% 아래로 떨어졌습니다. 7월 이후 OpenAI의 점유율은 약 2%에서 최근 몇 주 동안 약 8%로 확대되었으며, 이는 개발자 중심 워크로드에 대한 관심이 다시 높아졌음을 반영하는 것으로 보입니다. 같은 기간 Google의 점유율은 약 15%로 안정적으로 유지되었습니다. 중간 규모 제공업체 부문도 움직이고 있습니다. Z.AI, Qwen, Mistral AI를 비롯한 오픈 소스 제공업체들이 꾸준히 인지도를 높이고 있습니다. 특히 MiniMax는 최근 몇 주 동안 눈에 띄는 성장을 보이며 빠르게 부상하는 신규 진입자로 자리 잡았습니다.

모델 제공업체별 프로그래밍 요청 비중
모델 제공업체별 프로그래밍 요청 점유율. 프로그래밍 워크로드는 고도로 집중되어 있습니다. Anthropic의 모델이 코딩 쿼리에서 가장 큰 비중을 차지하고, OpenAI와 Google이 그 뒤를 이으며 MiniMax의 비중도 증가하고 있습니다. 다른 제공업체들의 합산 비중은 소수에 불과합니다. 이 그래프에서는 상당한 사용량을 기록했지만 일정 기간 무료로 제공된 xAI를 제외했습니다.

전반적으로, 프로그래밍은 가장 치열한 경쟁이 벌어지는 동시에 전략적으로 가장 중요한 모델 카테고리 중 하나가 되었습니다. 최상위 연구소들이 지속적으로 주목하는 분야이며, 모델 품질이나 지연 시간의 작은 변화만으로도 주별 점유율이 바뀔 수 있습니다. 인프라 제공업체와 개발자에게 이는 특히 최첨단 기술이 끊임없이 발전하는 상황에서 지속적인 벤치마킹과 평가가 필요하다는 점을 보여줍니다.

카테고리 내 태그 구성

전체 토큰 비중 기준 상위 6개 카테고리
전체 토큰 점유율 기준 상위 6개 카테고리. 각 막대는 해당 카테고리 내 주요 하위 태그의 구성을 보여줍니다. 레이블은 해당 카테고리 토큰의 7% 이상을 차지하는 하위 태그를 나타냅니다.
토큰 비중 기준 다음 6개 카테고리
토큰 점유율 기준 다음 6개 카테고리. 보조 카테고리의 유사한 구성을 보여주며, 각 영역에서 하위 주제가 얼마나 집중되어 있는지(또는 그렇지 않은지)를 나타냅니다.

위 그림은 가장 흔한 12개 콘텐츠 카테고리에서 LLM 사용량을 분류하여 각 카테고리의 내부 하위 주제 구조를 보여줍니다. 핵심적인 시사점은 대부분의 카테고리가 고르게 분포되어 있지 않다는 것입니다. 하나 또는 두 개의 반복적인 사용 패턴이 지배적인 경우가 많으며, 이는 집중된 사용자 의도나 LLM의 강점과의 정렬을 반영합니다.

가장 높은 사용량을 보이는 카테고리 중 롤플레이 는 일관성과 전문성이 두드러집니다. 롤플레이 토큰의 거의 60%가 Games/Roleplaying Games에 해당하며, 이는 사용자가 LLM을 가벼운 챗봇이라기보다 구조화된 롤플레이 또는 캐릭터 엔진으로 취급한다는 점을 시사합니다. 또한 Writers Resources (15.6%)와 Adult 콘텐츠(15.4%)가 나타나는 점은 인터랙티브 픽션, 시나리오 생성, 개인적 판타지가 결합되어 있음을 보여 줍니다. 롤플레이가 주로 비공식적인 대화라는 통념과 달리, 데이터는 잘 정의되고 재현 가능한 장르 기반 사용 사례를 보여 줍니다.

프로그래밍 도 마찬가지로 편중되어 있으며, 트래픽의 3분의 2 이상이 Programming/Other로 분류됩니다. 이는 코드 관련 프롬프트의 광범위하고 범용적인 특성을 보여 주는데, 사용자는 특정 도구나 언어에만 집중하는 것이 아니라 논리 디버깅부터 스크립트 작성까지 모든 작업을 LLM에 요청하고 있습니다. 다만 Development Tools (26.4%)와 스크립팅 언어의 소수 비중은 전문화가 나타나고 있음을 보여 줍니다. 이러한 세분화는 모델 개발자가 구조화된 프로그래밍 워크플로를 중심으로 태깅이나 학습을 개선할 기회를 부각합니다.

역할극과 프로그래밍이라는 지배적인 범주를 제외하면, 나머지 영역은 LLM 사용에서 다양하지만 규모가 작은 긴 꼬리 분포를 이룹니다. 개별적으로는 규모가 작지만, 이러한 영역은 전문적이고 새롭게 등장하는 작업 전반에서 사용자가 모델과 상호작용하는 방식에 관한 중요한 패턴을 보여 줍니다. 예를 들어, 번역과 과학 및 헬스케어 는 내부 구조가 비교적 평탄합니다. 번역에서는 사용량이 거의 균등하게 외국어 리소스 (51.1%)와 기타로 나뉘며, 이는 지속적인 문서 단위 번역보다는 다국어 조회, 바꿔 쓰기, 가벼운 코드 스위칭처럼 요구가 분산되어 있음을 시사합니다. 과학은 단일 태그인 머신 러닝 및 AI (80.4%)가 지배적이며, 이는 대부분의 과학 관련 질의가 물리학이나 생물학 같은 일반적인 STEM 주제가 아니라 메타 AI 질문임을 나타냅니다. 이는 사용자의 관심이나 모델의 강점이 자기 참조적 탐구에 치우쳐 있음을 보여 줍니다.

반면 헬스케어는 주요 카테고리 중 가장 세분화되어 있으며, 25%를 넘는 하위 태그가 없습니다. 토큰은 의학 연구, 상담 서비스, 치료 지침, 진단 검색에 분산되어 있습니다. 이러한 다양성은 해당 영역의 복잡성을 보여주지만, 안전한 모델링의 어려움도 드러내는데, LLM은 단일 사용 사례에 뚜렷하게 집중되지 않은 매우 다양한 사용자 의도를 민감한 맥락에서 다뤄야 하기 때문입니다.

이러한 긴 꼬리 카테고리들을 연결하는 특징은 광범위하다는 점입니다. 사용자는 탐색적이고 구조화 정도가 낮거나 지원을 요청하는 상호작용을 위해 LLM을 찾지만, 프로그래밍이나 개인 비서에서 볼 수 있는 집중된 워크플로는 나타나지 않습니다. 종합하면 이러한 보조 카테고리는 사용량을 지배하지는 않지만 잠재 수요를 암시합니다. 번역부터 의료 안내, AI 자기 성찰에 이르기까지 다양한 분야의 주변부에서 LLM이 사용되고 있으며, 모델의 도메인 견고성과 도구 통합이 개선되면 이러한 분산된 의도가 더 명확하고 규모가 큰 애플리케이션으로 수렴할 수 있음을 보여줍니다.

반면 금융, 학계, 법률 분야는 훨씬 더 분산되어 있습니다. 금융은 외환, 사회적 책임 투자, 감사/회계 전반에 걸쳐 사용량이 분산되어 있어 단일 태그가 20%를 넘지 않습니다. 법률도 비슷한 엔트로피를 보이며, 사용량이 Government/Other (43.0%)와 Legal/Other (17.8%)로 나뉩니다. 이러한 파편화는 해당 분야의 복잡성을 반영하거나, 코딩 및 채팅처럼 더 성숙한 범주에 비해 이 분야를 위한 전문 LLM 워크플로가 부족하기 때문일 수 있습니다.

데이터에 따르면 실제 LLM 사용은 일률적으로 탐색적이지 않으며, 반복 가능하고 사용량이 많은 소수의 작업에 밀집되어 있습니다. 역할극, 프로그래밍, 개인 지원은 각각 뚜렷한 구조와 지배적인 태그를 보입니다. 반면 과학, 의료, 법률 분야는 더 분산되어 있으며 최적화가 충분하지 않을 가능성이 높습니다. 이러한 내부 분포는 특히 LLM을 사용자 목표에 맞게 조정하는 모델 설계, 도메인별 미세 조정 및 애플리케이션 수준의 인터페이스에 지침을 제공할 수 있습니다.

카테고리별 제작사 수준 인사이트

모델 제작자마다 활용 패턴이 다릅니다. 아래 그림은 주요 모델 제품군(Anthropic의 Claude, Google 모델, OpenAI의 GPT 시리즈, DeepSeek, Qwen)의 콘텐츠 카테고리 분포를 보여줍니다. 각 막대는 해당 제공업체의 전체 토큰 사용량 100%를 나타내며, 이를 상위 태그별로 분류했습니다.

Anthropic 상위 태그
Anthropic. 주로 프로그래밍 및 기술 작업에 사용되며(80% 이상), 롤플레이 사용량은 매우 적습니다.
Google 상위 태그
Google. 법률, 과학, 기술 및 일부 일반 지식 쿼리에 걸친 폭넓은 사용 구성을 보입니다.
xAI 상위 태그
xAI. 토큰 사용량이 프로그래밍에 크게 집중되어 있으며, 11월 말에는 기술, 롤플레이, 학계의 비중이 더욱 두드러지게 나타났습니다.
OpenAI 상위 태그
OpenAI. 시간이 지나면서 프로그래밍 및 기술 작업으로 이동했으며, 롤플레이와 일상적인 채팅은 크게 감소했습니다.
DeepSeek 상위 태그
DeepSeek. 롤플레이와 일상적인 상호작용이 사용량을 지배합니다.
Qwen 상위 태그
Qwen. 프로그래밍 작업에 강하게 집중되어 있으며, 롤플레이와 과학 카테고리는 시간에 따라 변동합니다.

Anthropic의 Claude는 프로그래밍 및 기술 사용에 크게 치우쳐 있으며, 두 카테고리를 합치면 사용량의 80%를 넘습니다. 롤플레이와 일반 Q&A는 극히 일부에 불과합니다. 이는 Claude가 복잡한 추론, 코딩, 구조화된 작업에 최적화된 모델이라는 포지셔닝을 뒷받침하며, 개발자와 기업은 주로 Claude를 코딩 보조자이자 문제 해결 도구로 사용하는 것으로 보입니다.

Google의 모델 사용 분야는 더 다양합니다. 다음 분야를 포함해 두드러진 비중이 나타납니다: 번역, 과학, 기술, 그리고 일부 일반 지식. 예를 들어 Google 사용량의 약 5%는 법률 또는 정책 콘텐츠였고, 약 10%는 과학 관련 콘텐츠였습니다. 이는 Gemini가 광범위한 학습에 중점을 두고 있음을 시사할 수 있습니다. 다른 모델과 비교하면 Google은 2025년 말 코딩 비중이 상대적으로 낮고 실제로 감소했으며, 약 18%까지 떨어졌고 범주 분포의 긴 꼬리도 더 넓습니다. 이는 Google의 모델이 범용 정보 엔진으로 더 많이 사용되고 있음을 시사합니다.

xAI의 사용 프로필은 다른 제공업체와 뚜렷하게 다릅니다. 대부분의 기간 동안 사용량은 프로그래밍에 압도적으로 집중되어 전체 토큰의 80%를 넘는 경우가 많았습니다. 11월 말에 이르러서야 분포가 넓어지며 기술, 롤플레이 및 학계의 비중이 눈에 띄게 증가했습니다. 이러한 급격한 변화는 xAI 모델이 일부 소비자 애플리케이션을 통해 무료로 배포된 시점과 일치하며, 이로 인해 개발자가 아닌 사용자의 유입이 크게 늘어난 것으로 보입니다. 그 결과 초기의 개발자 중심 기반과 갑작스럽게 유입된 범용 참여가 결합된 사용 구성이 형성되었으며, xAI의 도입 경로가 기술 사용자와 프로모션 제공에 따른 일시적 급증 모두에 의해 형성되고 있음을 보여줍니다.

OpenAI의 사용 프로필은 2025년 동안 크게 변화했습니다. 연초에는 과학 작업이 전체 OpenAI 토큰의 절반 이상을 차지했지만, 2025년 말에는 그 비중이 15% 아래로 감소했습니다. 한편 프로그래밍과 기술 관련 사용량은 현재 전체의 절반 이상을 차지하며(각각 29%), 개발자 워크플로, 생산성 도구, 전문 애플리케이션에 더욱 깊이 통합되고 있음을 보여줍니다. OpenAI의 사용 구성은 이제 Anthropic의 집중된 프로필과 Google의 더 분산된 분포 사이에 위치하며, 높은 가치의 구조화된 작업으로 기울어지는 폭넓은 활용 기반을 시사합니다.

DeepSeek와 Qwen은 앞서 논의한 다른 모델 제품군과 상당히 다른 사용 패턴을 보입니다. DeepSeek의 토큰 분포는 롤플레이, 일상적인 채팅, 오락 중심 상호작용이 지배하며, 전체 사용량의 3분의 2를 넘는 경우가 많습니다. 프로그래밍이나 과학 같은 구조화된 작업에 해당하는 활동은 소수에 불과합니다. 이러한 패턴은 DeepSeek의 강한 소비자 지향성과 높은 참여도를 유도하는 대화형 모델로서의 포지셔닝을 반영합니다. 특히 DeepSeek는 늦여름으로 갈수록 프로그래밍 관련 사용량이 완만하지만 꾸준히 증가했으며, 이는 가벼운 개발 워크플로에서 점진적으로 채택되고 있음을 시사합니다.

반면 Qwen은 거의 반대되는 프로필을 보입니다. 표시된 전체 기간 동안 프로그래밍은 지속적으로 전체 토큰의 40~60%를 차지하며, 기술 및 개발자 작업에 대한 명확한 집중을 보여줍니다. 보다 안정적으로 엔지니어링에 집중된 Anthropic의 구성과 비교하면 Qwen은 과학, 기술, 롤플레이 같은 인접 카테고리에서 변동성이 더 큽니다. 이러한 주별 변화는 이질적인 사용자 기반과 실제 적용 사례의 빠른 반복을 의미합니다. 9월과 10월에 롤플레이 사용량이 눈에 띄게 증가했다가 11월에 감소한 현상은 사용자 행동의 변화 또는 다운스트림 애플리케이션 라우팅 조정을 암시합니다.

요약하면, 각 제공업체는 전략적 초점에 맞는 고유한 프로필을 보입니다. 이러한 차이는 모든 사용 사례를 최적으로 포괄하는 단일 모델이나 제공업체가 존재하지 않는 이유를 보여주며, 멀티모델 생태계의 잠재적 이점도 강조합니다.

지역: 지역별로 다른 LLM 사용 방식

글로벌 LLM 사용량은 뚜렷한 지역별 차이를 보입니다. 지리적 세부 내역을 살펴보면 지역별 사용량과 지출이 LLM 사용 패턴에 어떤 영향을 미치는지 추론할 수 있습니다. 아래 수치는 OpenRouter 사용자 기반을 반영하지만, 지역별 사용 현황을 보여 주는 하나의 사례로 볼 수 있습니다.

지역별 사용량 분포

아래 그림에 표시된 지출 분포는 AI 추론 시장이 점점 더 글로벌화되고 있음을 보여 줍니다. 북미는 여전히 단일 지역으로는 가장 큰 비중을 차지하지만, 관찰 기간 대부분에서 전체 지출의 절반에는 미치지 못합니다. 유럽은 안정적이고 지속적인 기여를 보입니다. 주간 지출에서 유럽이 차지하는 상대적 비중은 전체 기간 동안 일관되게 유지되며, 대체로 10%대 중반에서 20%대 초반 사이에 머뭅니다. 주목할 만한 변화는 아시아가 프런티어 모델의 생산지일 뿐 아니라 빠르게 성장하는 소비 지역으로도 부상했다는 점입니다. 데이터 세트의 초기 몇 주 동안 아시아는 전 세계 지출의 약 13%를 차지했습니다. 시간이 지나면서 이 비중은 두 배 이상 증가해 가장 최근 기간에는 약 31%에 도달했습니다.

시간에 따른 세계 지역별 지출 규모
시간에 따른 세계 지역별 지출 규모. 각 대륙이 차지하는 주간 글로벌 사용량 비중.
대륙별 LLM 사용량 분포. 각 대륙에서 발생한 전체 토큰의 비율(청구 지역).
대륙비중(%)
북미47.22
아시아28.61
유럽21.32
오세아니아1.18
남미1.21
아프리카0.46
토큰 사용량 기준 상위 10개 국가. 글로벌 LLM 토큰 비중에 따른 국가 순위.
국가비중(%)
미국47.17
싱가포르9.21
독일7.51
중국6.01
대한민국2.88
네덜란드2.65
영국2.52
캐나다1.90
일본1.77
인도1.62
기타(60개 이상 국가)16.76

언어 분포

언어별 토큰 사용량. 언어는 전체 OpenRouter 트래픽에서 감지된 프롬프트 언어를 기준으로 합니다.
언어토큰 비중(%)
영어82.87
중국어(간체)4.95
러시아어2.47
스페인어1.43
태국어1.03
기타(합산)7.25

위 표에서 볼 수 있듯이 영어가 사용량을 지배하며 전체 토큰의 80% 이상을 차지합니다. 이는 영어 모델의 보급률과 OpenRouter 사용자 기반이 개발자 중심으로 편중된 특성을 모두 반영합니다. 그러나 중국어, 러시아어, 스페인어를 비롯한 다른 언어도 무시할 수 없는 비중을 차지합니다. 간체 중국어만으로도 전 세계 토큰의 약 5%를 차지하는데, 이는 특히 DeepSeek와 Qwen 같은 중국 OSS 모델의 성장에 힘입어 이중 언어 환경 또는 중국어 중심 환경의 사용자들이 지속적으로 참여하고 있음을 시사합니다.

모델 빌더와 인프라 운영자에게 여러 언어, 규제 체계 및 배포 환경에 걸친 지역 간 사용성은 LLM 도입이 전 세계적으로 이루어지는 동시에 지역에 맞게 최적화되는 오늘날의 환경에서 기본 요건이 되고 있습니다.

LLM 사용자 유지율 분석

신데렐라 "유리 구두" 현상

Claude 4 Sonnet 유지율
Claude 4 Sonnet
Gemini 2.5 Pro 유지율
Gemini 2.5 Pro
Gemini 2.5 Flash 유지율
Gemini 2.5 Flash
OpenAI GPT-4o Mini 유지율
OpenAI GPT-4o Mini
Llama 4 Maverick 유지율
Llama 4 Maverick
Gemini 2.0 Flash 유지율
Gemini 2.0 Flash
DeepSeek R1 유지율
DeepSeek R1
DeepSeek Chat V3-0324 유지율
DeepSeek Chat V3-0324

코호트 유지율. 유지율은 활동 유지율로 측정하며, 일정 기간 활동이 없었더라도 이후 몇 달 안에 다시 돌아온 사용자를 포함합니다. 따라서 곡선에 작은 비단조적 변동이 나타날 수 있습니다.

이 유지율 차트 모음은 주요 모델 전반에서 LLM 사용자 시장의 역학을 보여줍니다. 처음에는 높은 이탈률과 빠른 코호트 감소가 데이터를 지배하는 것처럼 보입니다. 그러나 이러한 변동성 아래에는 더 미묘하면서도 중요한 신호가 있습니다. 소수의 초기 사용자 코호트가 시간이 지나도 지속적인 유지율을 보이는 것입니다. 이를 기초 코호트라고 부릅니다.

이러한 코호트는 단순한 얼리 어답터가 아닙니다. 이들은 자신의 작업이 깊고 지속적인 작업-모델 적합성을 확보한 사용자입니다. 이러한 적합성이 형성되면 새로운 모델이 등장하더라도 대체를 어렵게 만드는 경제적·인지적 관성이 생깁니다.

이 현상을 설명하는 프레임워크로 신데렐라 유리 구두 효과 를 소개합니다. 이 가설은 빠르게 발전하는 AI 생태계에서 연속되는 모델 세대에 걸쳐 해결되지 않은 고가치 워크로드의 잠재적 분포가 존재한다고 봅니다. 새로운 프런티어 모델은 이러한 미해결 문제에 사실상 "시험 착용"됩니다. 새로 출시된 모델이 이전에 충족되지 않았던 기술적·경제적 제약과 우연히 일치하면 정확히 들어맞는, 은유적인 "유리 구두"가 됩니다.

마침내 작업이 "맞는" 개발자나 조직에게 이러한 정렬은 강력한 락인 효과를 만듭니다. 시스템, 데이터 파이프라인, 사용자 경험이 문제를 처음 해결한 모델을 중심으로 고정됩니다. 비용이 감소하고 신뢰성이 높아질수록 다른 플랫폼으로 재구축하려는 유인은 급격히 줄어듭니다. 반대로 이러한 적합성을 찾지 못한 작업은 자체적인 해결책을 찾기 위해 한 모델에서 다른 모델로 이동하며 계속 탐색적인 상태로 남습니다.

경험적으로 이러한 패턴은 2025년 6월 Gemini 2.5 Pro 코호트와 2025년 5월 Claude 4 Sonnet코호트에서 관찰됩니다. 이들은 5개월 차에 약 40%의 사용자를 유지하며, 후발 코호트보다 상당히 높은 수치를 보입니다. 이러한 코호트는 이전에는 불가능했던 작업을 가능하게 만든 특정 기술적 돌파구(예: 추론 충실도 또는 도구 사용 안정성)에 해당하는 것으로 보입니다.

  • 해결 우선이 만드는 지속 가능한 우위. 고전적인 선점자 우위는 모델이 핵심 작업을 가장 먼저 해결할 때 더욱 큰 의미를 갖습니다. 얼리 어답터는 파이프라인, 인프라, 사용자 행동 전반에 모델을 내장하며, 그 결과 전환 장벽이 높아집니다. 이를 통해 새로운 대안이 등장하더라도 모델이 기초 코호트를 유지하는 안정적인 균형이 형성됩니다.
  • 역량 변곡점의 지표로서의 유지율. 코호트 수준의 유지율 패턴은 모델 차별화의 경험적 신호로 작용합니다. 하나 이상의 초기 코호트에서 지속적인 유지율이 나타난다는 것은 의미 있는 역량 변곡점, 즉 작업 유형이 불가능한 상태에서 가능한 상태로 전환되었음을 나타냅니다. 이러한 패턴이 없다는 것은 역량이 비슷하고 차별화의 깊이가 제한적임을 시사합니다.
  • 프런티어 윈도우의 시간적 제약. 경쟁 환경은 모델이 기초 사용자를 확보할 수 있는 시간적 창을 좁게 제한합니다. 후속 모델이 역량 격차를 좁혀감에 따라 새로운 기초 코호트가 형성될 가능성은 급격히 감소합니다. 따라서 모델과 작업이 정확히 맞아떨어지는 "신데렐라"의 순간은 일시적이지만 장기적인 도입 역학을 결정짓는 중요한 순간입니다.

전체적으로 파운데이션 모델의 급격한 역량 변화는 사용자 유지의 재정의를 필요로 합니다. 새로운 모델 세대가 등장할 때마다 이전에 충족되지 못했던 워크로드를 해결할 짧은 기회가 생깁니다. 이러한 정렬이 이루어지면 해당 사용자는 파운데이션 코호트를 형성합니다. 이는 이후 모델이 출시되어도 유지율 추세가 안정적으로 유지되는 세그먼트입니다.

지배적인 출시 이상 현상. 다음 OpenAI GPT-4o Mini 차트는 이 현상을 극단적인 형태로 보여 줍니다. 단 하나의 기반 코호트(2024년 7월, 주황색 선)가 출시 시점에 지배적이고 고착성 있는 워크로드-모델 적합성을 확립했습니다. 이후 도착한 모든 코호트는 이후 이 적합성이 확립되고 시장이 이미 다음 단계로 이동한 뒤에는 동일하게 행동합니다. 즉, 이들은 이탈하고 하단에 모여듭니다. 이는 이러한 기반 적합성을 확립할 수 있는 창이 단 한 번뿐이며, 모델이 "프런티어"로 인식되는 순간에만 발생한다는 점을 시사합니다.

적합성이 없을 때의 결과. 아래의 Gemini 2.0 Flash 및 Llama 4 Maverick 차트는 이러한 초기 적합성이 한 번도 확립되지 않았을 때 어떤 일이 일어나는지를 보여 주는 경고 사례입니다. 다른 모델들과 달리, 높은 성과를 내는 기반 코호트가 없습니다. 모든 코호트가 예외 없이 똑같이 저조한 성과를 냅니다. 이는 해당 모델들이 높은 가치를 지니고 사용자 이탈이 적은 워크로드에서 한 번도 "프런티어"로 인식되지 못했음을 시사합니다. 이 모델은 곧바로 충분히 좋은 시장에 진입했고, 따라서 어떤 사용자 기반도 확보하지 못했습니다. 마찬가지로, 전반적으로 압도적인 성공을 거두었음에도 DeepSeek의 혼란스러운 차트 역시 안정적인 기반 코호트를 구축하지 못하고 있음을 보여 줍니다.

부메랑 효과. DeepSeek 모델은 더욱 복잡한 패턴을 보여줍니다. 이들의 유지율 곡선에는 매우 이례적인 이상 현상인 부활 점프가 나타납니다. 일반적인 단조 감소형 유지율과 달리, 여러 DeepSeek 코호트에서는 초기 이탈 기간 이후 유지율이 뚜렷하게 상승합니다(예: DeepSeek R1의 2025년 4월 코호트는 3개월 차 전후, DeepSeek Chat V3-0324의 2025년 7월 코호트는 2개월 차 전후). 이는 일부 이탈 사용자가 모델로 돌아오고 있음을 나타냅니다. 이러한 "부메랑 효과"는 사용자가 대안을 사용해 본 뒤 경쟁 테스트를 통해 DeepSeek가 특정 워크로드에 최적의, 그리고 종종 더 나은 적합성을 제공한다는 사실을 확인하고 돌아온다는 것을 의미합니다. 이는 뛰어난 전문 기술 성능, 비용 효율성 또는 기타 고유 기능의 우수한 조합에 따른 결과입니다.

시사점. 해당 Glass Slipper 현상은 리텐션을 결과가 아니라 역량의 획기적 발전을 이해하기 위한 렌즈로 재구성합니다. 파운데이션 코호트는 진정한 기술 발전의 지문과 같습니다. 이들은 AI 모델이 새로움의 단계를 넘어 필수 요소가 된 지점을 보여 줍니다. 빌더와 투자자 모두에게 이러한 코호트를 조기에 식별하는 일은 지속적인 모델-시장 우위를 예측하는 가장 강력한 단일 신호일 수 있습니다.

비용과 사용량의 동향

모델 사용 비용은 사용자 행동에 영향을 미치는 핵심 요소입니다. 이 섹션에서는 다양한 AI 워크로드 카테고리가 비용–사용량 환경에 어떻게 분포하는지 살펴봅니다. 로그 비용 대 사용량 플롯에서 카테고리가 어디에 군집하는지 분석하여, 워크로드가 저비용·대량 사용 영역과 고비용·전문 영역에 집중되는 양상을 파악합니다. 또한 낮은 비용의 카테고리가 더 높은 총사용량과 연결되는 경우가 많다는 점에서 제번스의 역설과 유사한 현상도 언급하지만, 이 역설이나 인과관계를 형식적으로 분석하지는 않습니다.

카테고리별 AI 워크로드 세분화 분석

카테고리별 로그 비용과 로그 사용량
카테고리별 로그 비용과 로그 사용량

위의 산점도는 AI 사용 사례가 뚜렷하게 세분화되어 있음을 보여 주며, 총 사용량(Total Tokens)을 기준으로 한 집계 사용량과 단위 비용(Cost per 1M Tokens)을 기준으로 사용 사례를 매핑합니다. 먼저 중요하게 관찰할 점은 두 축이 모두 로그 눈금이라는 것입니다. 이러한 로그 스케일링은 차트에서 시각적으로 작은 거리도 실제 사용량과 비용에서 상당한 배수 차이에 해당한다는 것을 의미합니다.

차트는 토큰 100만 개당 $0.73인 중간 비용 지점에서 수직선으로 양분되며, 이를 통해 카테고리별 AI 시장을 단순화하는 4분면 체계가 만들어집니다.

이러한 최종 비용은 광고된 정가와 다르다는 점에 유의해야 합니다. 빈번하게 사용되는 워크로드는 캐싱의 혜택을 받아 실제 지출이 줄어들며, 공개된 정가보다 실질 가격이 크게 낮아집니다. 표시된 비용 지표는 프롬프트 토큰과 완성 토큰을 모두 포함한 혼합 요율을 반영하므로, 사용자가 실제로 총액 기준으로 지불하는 금액을 더 정확하게 보여 줍니다. 또한 데이터셋은 BYOK 활동을 제외하여 표준화된 플랫폼 매개 사용량만 분리하고, 맞춤형 인프라 설정으로 인한 왜곡을 방지합니다.

프리미엄 워크로드(오른쪽 위): 이 사분면에는 비용과 사용량이 모두 높은 애플리케이션이 속하며, 이제 교차점 바로 위에 위치한 technology 및 science도 포함됩니다. 이는 사용자가 성능이나 특수 기능을 위해 프리미엄을 지불할 의향이 있는, 가치가 높고 사용량이 많은 전문 워크로드를 나타냅니다. Technology 는 다른 어떤 범주보다 훨씬 비싼 두드러진 이상치입니다. 이는 technology 가 사용 사례로서(복잡한 시스템 설계 또는 아키텍처와 관련된 것일 수 있음) 추론에 훨씬 더 강력하고 비싼 모델을 필요로 하지만, 높은 사용량을 유지하고 있어 필수적인 성격을 지님을 시사합니다.

대중 시장 규모 견인 요인(왼쪽 위): 이 사분면은 사용량이 높고 비용이 낮거나 평균 이하인 경우를 나타냅니다. 이 영역은 다음 두 가지 대규모 사용 사례가 주도합니다: roleplay, programming 및 science.

  • Programming 범주는 사용량이 가장 많으면서도 비용은 중간 수준으로 매우 최적화되어 있어 '킬러 전문 분야' 범주로 두드러집니다.
  • Roleplay의 사용량은 막대하며, 거의 programming에 필적합니다. 이는 주목할 만한 통찰입니다. 소비자 대상 역할극 애플리케이션이 최상위 전문 애플리케이션에 맞먹는 참여량을 이끌어 내고 있습니다.

이 두 카테고리의 압도적인 규모는 전문적 생산성과 대화형 엔터테인먼트가 모두 AI의 핵심적이고 거대한 사용량 견인 요인임을 확인해 줍니다. 앞서 언급했듯이, 이 사분면의 비용 민감성에서 오픈 소스 모델은 상당한 우위를 확보했습니다.

전문 분야 전문가(오른쪽 아래): 이 사분면에는 finance, academia, health, marketing 등 사용량은 적지만 비용이 높은 애플리케이션이 포함됩니다. 이러한 분야는 중요도가 높고 전문화된 틈새 전문 영역입니다. "건강"이나 "금융"에 관해 AI에 문의하는 빈도가 "프로그래밍"에 관해 문의하는 빈도보다 훨씬 낮을 수 있으므로, 총량이 더 적은 것은 합리적입니다. 정확성, 안정성, 도메인별 지식에 대한 요구가 매우 높기 때문에 사용자가 이러한 작업에 상당한 프리미엄을 지불할 의향이 있는 것으로 보입니다.

틈새 유틸리티(왼쪽 하단): 이 사분면에는 저비용·저사용량 작업이 포함되며, translation, legal, trivia 등이 있습니다. 이러한 작업은 기능 중심의 비용 최적화 유틸리티입니다. Translation 카테고리가 이 그룹에서 사용량이 가장 높고, trivia 카테고리가 사용량이 가장 낮습니다. 낮은 비용과 비교적 적은 사용량은 이러한 작업이 고도로 최적화되었거나 이미 "해결되었거나" 상품화되었으며, 저렴한 비용으로 충분히 좋은 대안을 이용할 수 있음을 시사합니다.

앞서 언급했듯이, 이 차트에서 가장 두드러진 이상치는 technology입니다. 상당한 격차로 토큰당 비용이 가장 높으면서도 높은 사용량을 유지합니다. 이는 가치가 높고 복잡한 답변(예: 시스템 아키텍처, 고급 기술 문제 해결)에 높은 비용을 지불할 의향이 있는 시장 세그먼트가 있음을 강하게 시사합니다. 이 높은 가격이 높은 사용자 가치(‘수요 측’ 기회)에 의해 발생하는지, 아니면 높은 서비스 제공 비용(‘공급 측’ 과제)에 의해 발생하는지가 핵심 질문입니다. 이러한 쿼리에는 가장 강력한 최첨단 모델이 필요할 수 있기 때문입니다. technology 에서 가능한 ‘전략’은 이 고가치 시장에 서비스를 제공하는 것입니다. 고도로 최적화된 전문 모델을 통해 이 세그먼트에 서비스를 제공할 수 있는 제공업체라면 잠재적으로 더 높은 마진의 시장을 확보할 수 있습니다.

AI 모델의 실제 비용과 사용량

오픈 소스 및 클로즈드 소스 모델 환경: 비용과 사용량
오픈 소스와 클로즈드 소스 모델 생태계: 비용과 사용량(로그–로그 척도). 각 점은 OpenRouter에서 제공되는 모델을 나타내며, 소스 유형별로 색상이 구분되어 있습니다. 클로즈드 소스 모델은 고비용·고사용량 영역에 집중되는 반면, 오픈 소스 모델은 저비용·대규모 사용량 영역을 주도합니다. 점선 추세선은 거의 수평으로, 비용과 총사용량 간의 상관관계가 제한적임을 보여줍니다. 참고: 이 지표는 프롬프트 토큰과 완성 토큰을 합산한 평균을 반영하며, 캐싱으로 인해 실제 가격은 정가보다 낮은 경우가 많습니다. BYOK 활동은 제외되었습니다.

위 그림은 1M 토큰당 비용 대비 모델 사용량을 나타낸 것으로(로그–로그 척도), 전반적인 상관관계가 약함을 보여 줍니다. 편의를 위해 x축에는 명목값을 표시했습니다. 추세선이 거의 평평하여 수요가 가격에 비교적 비탄력적임을 나타내며, 가격이 10% 하락해도 사용량은 약 0.5–0.7%만 증가합니다. 그러나 차트 전체의 분산은 상당히 커서 시장 세분화가 뚜렷함을 보여 줍니다. 두 가지 뚜렷한 영역이 나타나는데, OpenAI와 Anthropic의 독점 모델은 고비용·고사용량 영역에, DeepSeek, Mistral, Qwen과 같은 오픈 모델은 저비용·대용량 영역에 분포합니다. 이 패턴은 다음과 같은 간단한 경험 법칙을 뒷받침합니다: 폐쇄형 소스 모델은 높은 가치의 작업을, 오픈 소스 모델은 대량의 낮은 가치 작업을 담당합니다. 약한 가격 탄력성은 극심한 비용 차이조차 수요를 완전히 이동시키지 못한다는 것을 의미하며, 독점 제공업체는 미션 크리티컬 애플리케이션에서 가격 결정력을 유지하는 반면 개방형 생태계는 비용에 민감한 사용자로부터 유입되는 물량을 흡수합니다.

AI 모델 시장 지도: 비용과 사용량
AI 모델 시장 지도: 비용 대 사용량(로그-로그 척도). 위 그래프와 유사하지만 각 점이 모델 제공업체별로 색상이 지정되어 있습니다.
세그먼트별 예시 모델. 업데이트된 데이터 세트에서 추출한 값입니다. 시장 전체의 회귀선은 여전히 거의 수평이지만, 세그먼트별 동작은 크게 다릅니다.
세그먼트모델100만 토큰당 가격사용량(로그)시사점
효율적인 거대 모델google/gemini-2.0-flash$0.1476.68낮은 가격과 강력한 유통망으로 인해 고용량 작업의 기본 선택이 됩니다
효율적인 거대 모델deepseek/deepseek-v3-0324$0.3946.55저렴한 비용의 경쟁력 있는 품질이 대규모 채택을 이끕니다
프리미엄 선도 모델anthropic/claude-3.7-sonnet$1.9636.87프리미엄 가격에도 사용량이 매우 높아 품질과 안정성을 선호한다는 점을 보여줍니다
프리미엄 선도 모델anthropic/claude-sonnet-4$1.9376.84신뢰할 수 있는 프런티어 모델을 사용하는 엔터프라이즈 작업은 가격에 비탄력적인 것으로 보입니다
롱테일qwen/qwen-2-7b-instruct$0.0522.91최저 수준의 가격이지만 도달 범위가 제한적이며, 이는 모델-시장 적합성이 약하기 때문일 가능성이 높습니다
롱테일ibm/granite-4.0-micro$0.0362.95저렴하지만 틈새 모델로, 주로 제한적인 환경에서 사용됩니다
프리미엄 전문 모델openai/gpt-4$34.0683.53높은 비용과 보통 수준의 사용량으로, 가장 까다로운 작업에만 사용됩니다
프리미엄 전문 모델openai/gpt-5-pro$34.9653.42초프리미엄 모델로, 중요도가 높고 범위가 집중된 작업에 사용됩니다. 최근 출시된 모델인 만큼 아직 채택 초기 단계입니다.

위 그림은 이전 그림과 유사하지만 모델 작성자를 표시합니다. 네 가지 사용량–비용 유형이 나타납니다. 프리미엄 선도 모델(예: Anthropic의 Claude 3.7 Sonnet 및 Claude Sonnet 4)은(는) 토큰 100만 개당 약 2달러의 비용을 요구하면서도 높은 사용량을 달성합니다. 이는 사용자가 대규모 환경에서 뛰어난 추론 능력과 안정성을 위해 비용을 지불할 의향이 있음을 보여줍니다. 효율적인 대형 모델(예: Google의 Gemini 2.0 Flash 및 DeepSeek V3 0324)은(는) 토큰 100만 개당 0.40달러 미만의 가격으로 뛰어난 성능을 제공하고 비슷한 사용량을 달성하므로, 대규모 또는 긴 컨텍스트 워크로드의 매력적인 기본값입니다. 롱테일 모델(예: Qwen 2 7B Instruct 및 IBM Granite 4.0 Micro)은(는) 토큰 100만 개당 몇 센트에 불과한 가격이지만 총 사용량은 약 10^2.9에 머뭅니다. 이는 낮은 성능, 제한된 노출 또는 적은 통합으로 인한 제약을 반영합니다. 마지막으로 프리미엄 전문 모델(예: OpenAI의 GPT-4 및 GPT-5 Pro)은(는) 고비용·저사용량 영역에 위치합니다. 토큰 100만 개당 약 35달러, 사용량 약 10^3.4인 이 모델들은 한계 토큰 비용보다 출력 품질이 훨씬 중요한 틈새 고위험 워크로드에 신중하게 사용됩니다.

전반적으로 이 산점도는 LLM 시장의 가격 결정력이 균일하지 않음을 보여줍니다. 저렴한 모델은 효율성과 통합을 통해 규모를 확대할 수 있지만, 중요도가 높은 영역에서는 프리미엄 제품도 여전히 강한 수요를 확보합니다. 이러한 분화는 시장이 아직 상품화되지 않았으며, 지연 시간, 컨텍스트 길이 또는 출력 품질을 통한 차별화가 여전히 전략적 우위의 원천임을 시사합니다.

이러한 관찰 결과는 다음을 시사합니다:

  • 거시적 관점에서 수요는 비탄력적이지만이는 서로 다른 미시적 행동을 가립니다. 미션 크리티컬한 작업을 수행하는 기업은 높은 가격을 지불할 것이며(따라서 이러한 모델은 높은 사용량을 보입니다). 반면 취미 사용자와 개발 파이프라인은 비용에 매우 민감하여 더 저렴한 모델로 몰립니다(그 결과 효율적인 모델의 사용량이 커집니다).
  • 일부 증거는 제번스 역설을 뒷받침합니다. 일부 모델을 매우 저렴하게 만들면(동시에 빠르게 만들면) 사람들이 이를 훨씬 더 많은 작업에 사용하게 되어, 궁극적으로 전체 토큰을 더 많이 소비하게 되었습니다. 효율적인 대형 모델 그룹에서 이러한 현상을 확인할 수 있습니다. 토큰당 비용이 낮아지자 해당 모델은 어디에나 통합되었고 전체 소비량이 급증했습니다(사람들이 더 긴 컨텍스트와 더 많은 반복 등을 실행합니다).
  • 품질과 기능은 비용보다 우선하는 경우가 많습니다: 고가 모델(Claude, GPT-4)의 사용량이 높은 것은 모델이 훨씬 더 뛰어나거나 신뢰성 측면에서 우위를 가진다면 사용자가 더 높은 비용을 감수한다는 것을 보여줍니다. 이러한 모델은 생산하는 결과물의 가치에 비해 비용이 미미한 워크플로에 통합되는 경우가 많습니다(예를 들어 개발자의 작업 시간을 한 시간 절약해 주는 코드라면 몇 달러의 API 호출 비용보다 훨씬 더 큰 가치가 있습니다).
  • 반대로, 단순히 저렴한 것만으로는 충분하지 않으며 모델은 또한 차별화되고 충분한 기능을 갖춰야 합니다. 가격이 거의 0에 가까운 많은 오픈 모델도 여전히 충분히 괜찮지만, 워크로드와 모델의 적합성 을 찾지 못하거나 안정성이 다소 부족하기 때문에 개발자는 이를 깊이 통합하기를 주저합니다.

운영자 관점에서 보면 몇 가지 전략적 패턴이 나타납니다. Google과 같은 제공업체는 속도, 비용, 기능 간의 명시적인 절충을 위해 계층형 상품 구성, 특히 Gemini Flash와 Pro를 적극적으로 활용해 왔습니다. 이러한 계층화는 가격 민감도와 작업 중요도에 따른 시장 세분화를 가능하게 합니다. 가벼운 작업은 더 저렴하고 빠른 모델로 라우팅되고, 프리미엄 모델은 복잡하거나 지연 시간에 덜 민감한 워크로드를 처리합니다. 사용 사례와 안정성을 최적화하는 것은 가격을 ‘인하’하는 것만큼 큰 영향을 미치는 경우가 많습니다. 특히 프로덕션 환경에서는 더 빠르고 특정 목적에 맞게 설계된 모델이 더 저렴하지만 예측할 수 없는 모델보다 선호될 수 있습니다. 이에 따라 초점이 토큰당 비용에서 성공적인 결과당 비용으로 이동합니다. 비교적 평탄한 수요 탄력성은 LLM이 아직 상품화되지 않았음을 시사합니다. 많은 사용자가 품질, 기능 또는 안정성을 위해 프리미엄을 지불할 의향이 있습니다. 특히 작업 결과가 토큰 비용의 한계 절감액보다 중요할 때는 차별화가 여전히 가치가 있습니다.

논의

이 실증 연구는 LLM이 실제로 어떻게 사용되는지에 대한 데이터 기반 관점을 제시하며, AI 배포에 관한 통념을 다각도로 보여 주는 몇 가지 주제를 강조합니다:

1. 다중 모델 생태계. 분석 결과, 단일 모델이 모든 사용량을 지배하지는 않는 것으로 나타났습니다. 대신 폐쇄형 모델과 오픈 모델이 모두 상당한 점유율을 차지하는 풍부한 다중 모델 생태계 구조가 관찰됩니다. 예를 들어 OpenAI와 Anthropic 모델이 많은 프로그래밍 및 지식 작업에서 선두를 차지하고 있지만, DeepSeek 및 Qwen과 같은 오픈 소스 모델이 전체 토큰의 상당 부분(때로는 30% 이상)을 함께 처리했습니다. 이는 LLM 사용의 미래가 특정 모델에 종속되지 않고 이질적인 형태가 될 가능성이 높다는 점을 시사합니다. 개발자에게 이는 하나의 모델이 우월하다고 보고 모든 것을 걸기보다는 유연성을 유지하고 여러 모델을 통합하며 각 작업에 가장 적합한 모델을 선택해야 한다는 의미입니다. 모델 제공업체에게는 지속적으로 개선하고 차별화하지 않으면 커뮤니티 모델과 같이 예상치 못한 곳에서 경쟁자가 등장해 시장의 일부를 잠식할 수 있다는 점을 강조합니다.

2. 생산성을 넘어선 사용의 다양성. 놀라운 발견 중 하나는 역할극 및 엔터테인먼트 지향 사용의 엄청난 규모입니다. 오픈 소스 모델 사용량의 절반 이상이 역할극과 스토리텔링에 사용되었습니다. 독점 플랫폼에서도 전문적인 사용 사례가 증가하기 전 초기 ChatGPT 사용의 상당 부분은 일상적이고 창의적인 용도였습니다. 이는 LLM이 주로 코드, 이메일 또는 요약문 작성에 사용된다는 가정에 반합니다. 실제로 많은 사용자가 교감이나 탐색을 위해 이러한 모델을 이용합니다. 이는 중요한 시사점을 갖습니다. 내러티브 설계, 정서적 참여, 상호작용을 결합한 소비자 대상 애플리케이션에 상당한 기회가 있음을 보여줍니다. 또한 성격이 발전하고, 선호 사항을 기억하며, 장시간 상호작용을 지속하는 에이전트와 같은 개인화의 새로운 가능성을 제시합니다. 나아가 모델 평가 지표도 재정의하는데, 성공 여부는 사실 정확성보다 일관성, 응집성, 매력적인 대화를 지속하는 능력에 더 좌우될 수 있습니다. 마지막으로 AI와 엔터테인먼트 IP의 결합 가능성을 열어 인터랙티브 스토리텔링, 게임, 크리에이터 주도의 가상 캐릭터 분야에서 새로운 기회를 제공합니다.

3. 에이전트와 인간: 에이전트형 추론의 부상. LLM 사용은 단일 턴 상호작용에서 에이전트형 추론으로 이동하고 있습니다. 여기서 모델은 여러 단계에 걸쳐 계획을 세우고, 추론하며, 실행합니다. 이제 모델은 일회성 응답을 생성하는 데 그치지 않고 도구 호출을 조정하고, 외부 데이터에 접근하며, 목표를 달성하기 위해 출력을 반복적으로 개선합니다. 초기 증거에 따르면 다단계 질의와 연쇄적인 도구 사용이 증가하고 있으며, 이는 에이전트형 사용의 대리 지표로 볼 수 있습니다. 이 패러다임이 확장됨에 따라 평가는 언어 품질에서 작업 완료와 효율성으로 이동할 것입니다. 다음 경쟁의 최전선은 모델이 얼마나 효과적으로 지속적인 추론을 수행할 수 있는가이며, 이러한 변화는 궁극적으로 대규모 에이전트형 추론이 실제로 무엇을 의미하는지 재정의할 수 있습니다.

4. 지역별 전망. LLM 사용은 점점 전 세계적이고 탈중앙화된 형태로 변화하고 있으며, 북미 이외 지역에서도 빠르게 성장하고 있습니다. 전체 토큰 수요에서 아시아가 차지하는 비중은 약 13%에서 31%로 증가했으며, 이는 기업 도입과 혁신의 확대를 반영합니다. 한편, 중국은 주요 세력으로 부상했으며 국내 소비뿐 아니라 전 세계적으로 경쟁력 있는 모델을 생산하고 있습니다. 여기서 얻을 수 있는 보다 큰 시사점은 다음과 같습니다. LLM은 전 세계적으로 유용해야 하며 언어, 맥락, 시장 전반에서 우수한 성능을 발휘해야 합니다. 다음 경쟁 단계에서는 단순한 모델 규모가 아니라 문화적 적응력과 다국어 역량이 핵심이 될 것입니다.

5. 비용과 사용량의 역학. LLM 시장은 아직 상품 시장처럼 움직이지 않는 것으로 보이며, 가격만으로는 사용량의 상당 부분을 설명할 수 없습니다. 사용자는 비용과 추론 품질, 신뢰성, 역량의 폭 사이에서 균형을 잡습니다. 폐쇄형 모델은 계속해서 가치가 높고 수익과 연결된 작업을 차지하는 반면, 오픈 모델은 저비용·대용량 작업을 지배합니다. 이로 인해 안정성보다는 아래로부터의 지속적인 압박에 의해 형성되는 역동적 균형이 만들어집니다. 오픈 소스 모델은 효율성 프런티어를 계속해서 확장하고 있으며, 특히 빠른 반복과 OSS 혁신이 성능 격차를 좁히는 추론 및 코딩 분야(예: Kimi K2 Thinking)에서 두드러집니다. 오픈 모델이 개선될 때마다 독점 시스템의 가격 결정력이 약화되며, 독점 시스템은 더 뛰어난 통합, 일관성, 엔터프라이즈 지원을 통해 프리미엄을 정당화해야 합니다. 그 결과 경쟁은 빠르게 움직이고 비대칭적이며 지속적으로 변화합니다. 시간이 지나 품질 수렴이 가속화되면 가격 탄력성이 높아질 가능성이 크며, 한때 차별화된 시장이었던 것이 더욱 유동적인 시장으로 바뀔 것입니다.

6. 유지율과 신데렐라 유리 구두 현상. 파운데이션 모델이 단계적으로가 아니라 비약적으로 발전함에 따라, 유지율은 방어 가능성을 측정하는 진정한 지표가 되었습니다. 각각의 돌파구는 모델이 고가치 작업에 완벽하게 "맞을" 수 있는 짧은 출시 기회를 만들어냅니다(신데렐라 유리 구두의 순간). 사용자는 그러한 적합성을 발견하면 계속 머뭅니다. 이 패러다임에서 제품-시장 적합성은 작업-모델 적합성과 같습니다. 실제 문제를 가장 먼저 해결하면 사용자가 해당 역량을 중심으로 워크플로와 습관을 구축하면서 깊고 끈끈한 도입이 이루어집니다. 이후 전환은 기술적으로나 행동적으로나 비용이 커집니다. 개발자와 투자자가 주목해야 할 신호는 성장률이 아니라 유지율 곡선, 즉 모델 업데이트 이후에도 남아 있는 기초 코호트의 형성입니다. 빠르게 움직이는 시장에서 이러한 중요한 미충족 요구를 조기에 포착하는 것이 다음 역량 도약 이후에도 누가 살아남는지를 결정합니다.

종합하면 LLM은 프로그래밍부터 창의적 글쓰기까지 다양한 분야의 추론 유사 작업을 위한 필수 컴퓨팅 기반이 되어가고 있습니다. 모델이 계속 발전하고 배포가 확대됨에 따라 실제 사용 역학을 정확히 파악하는 것은 현명한 의사 결정을 내리는 데 매우 중요합니다. 사람들이 LLM을 사용하는 방식은 항상 예상과 일치하는 것은 아니며, 국가별, 주별, 사용 사례별로 크게 다릅니다. 대규모로 사용 현황을 관찰하면 LLM이 미치는 영향에 대한 이해를 현실에 기반할 수 있으며, 기술적 개선, 제품 기능, 규제 등 이후의 발전이 실제 사용 패턴과 요구에 부합하도록 할 수 있습니다. 이 연구가 더 많은 경험적 연구의 토대가 되고, 차세대 프런티어 모델을 구축하는 과정에서 AI 커뮤니티가 실제 사용을 지속적으로 측정하고 학습하도록 장려하기를 바랍니다.

한계

이 연구는 단일 플랫폼, 즉 OpenRouter에서 유한한 기간 동안 관찰된 패턴을 반영하므로 더 광범위한 생태계를 부분적으로만 보여줍니다. 기업 사용량, 로컬 호스팅 배포 또는 폐쇄형 내부 시스템과 같은 일부 측면은 데이터 범위에 포함되지 않습니다. 또한 여러 데이터 분석은 대리 지표에 의존합니다. 예를 들어 다단계 호출 또는 도구 호출을 통해 에이전트 추론을 식별하거나, 검증된 위치 데이터가 아닌 결제 정보를 바탕으로 사용자 지역을 추론합니다. 따라서 결과는 기저 현상에 대한 확정적 측정값이 아니라 행동 패턴을 나타내는 지표로 해석해야 합니다.

결론

이 연구는 대규모 언어 모델이 전 세계 컴퓨팅 인프라에 어떻게 편입되고 있는지에 대한 실증적 관점을 제공합니다. LLM은 이제 워크플로, 애플리케이션, 에이전트 시스템의 핵심 요소가 되었으며, 정보가 생성되고 매개되고 소비되는 방식을 변화시키고 있습니다.

지난 1년은 이 분야가 추론을 이해하는 방식에 큰 변화를 촉진했습니다. o1급 모델의 등장으로 장시간 숙고와 도구 사용이 일반화되었고, 평가의 초점도 단일 실행 벤치마크에서 프로세스 기반 지표, 지연 시간과 비용의 절충, 오케스트레이션 환경에서의 작업 성공률로 이동했습니다. 추론은 모델이 더 신뢰할 수 있는 결과를 제공하기 위해 얼마나 효과적으로 계획하고 검증할 수 있는지를 측정하는 기준이 되었습니다.

데이터는 LLM 생태계가 구조적으로 다원적임을 보여 줍니다. 단일 모델이나 제공업체가 지배하지 않으며, 사용자는 상황에 따라 역량, 지연 시간, 가격, 신뢰도와 같은 여러 기준에 따라 시스템을 선택합니다. 이러한 이질성은 일시적인 단계가 아니라 시장의 근본적인 속성입니다. 이는 빠른 반복을 촉진하고 특정 모델이나 스택에 대한 시스템적 의존도를 낮춥니다.

추론 자체도 변화하고 있습니다. 다단계 상호작용과 도구 연계 상호작용의 증가는 정적 완성에서 동적 오케스트레이션으로의 전환을 보여 줍니다. 사용자는 모델, API, 도구를 연쇄적으로 연결해 복합적인 목표를 달성하고 있으며, 이로부터 에이전트형 추론이라고 부를 수 있는 방식이 등장했습니다. 에이전트형 추론은 이미 인간의 추론을 능가했거나, 머지않아 능가할 것이라고 볼 만한 이유가 많습니다.

지리적으로도 생태계는 더욱 분산되고 있습니다. 아시아의 사용 비중은 계속 확대되고 있으며, 특히 중국은 Moonshot AI, DeepSeek, Qwen과 같은 기업의 부상으로 모델 개발자이자 수출국으로 자리 잡았습니다. 비서구권 오픈 웨이트 모델의 성공은 LLM이 진정으로 전 세계적인 컴퓨팅 자원임을 보여 줍니다.

실제로 o1 모델은 경쟁을 끝내지 못했습니다. 전혀 그렇지 않습니다. 오히려 설계 공간을 확장했습니다. 이 분야는 단일 거대 베팅 대신 시스템적 사고로, 직관 대신 계측으로, 리더보드의 차이 대신 경험적 사용 분석으로 나아가고 있습니다. 지난 1년이 에이전트 추론이 대규모로 실행 가능하다는 것을 보여 주었다면, 다음 1년은 운영 우수성에 초점을 맞출 것입니다. 즉, 실제 작업 완료를 측정하고, 분포 변화 상황에서 변동성을 줄이며, 모델 동작을 프로덕션 규모 워크로드의 실질적인 요구 사항에 맞추는 것입니다.

참고 문헌

  1. R. Appel, J. Zhao, C. Noll, O. K. Cheche, W. E. Brown Jr. Anthropic economic index report: Uneven geographic and enterprise AI adoption. arXiv preprint arXiv:2511.15080, 2025. URL https://arxiv.org/abs/2511.15080.
  2. A. Chatterji, T. Cunningham, D. J. Deming, Z. Hitzig, C. Ong, C. Y. Shan, K. Wadman. 사람들이 ChatGPT를 사용하는 방식. NBER Working Paper 34255, 2025. URL https://cdn.openai.com/pdf/a253471f-8260-40c6-a2cc-aa93fe9f142e/economic-research-chatgpt-usage-paper.pdf.
  3. W. Zhao, X. Ren, J. Hessel, C. Cardie, Y. Choi, Y. Deng. WildChat: 실제 환경의 1M ChatGPT 상호작용 로그. arXiv 프리프린트 arXiv:2405.01470, 2024. URL https://arxiv.org/abs/2405.01470.
  4. OpenAI. OpenAI o1 시스템 카드. arXiv 프리프린트 arXiv:2412.16720, 2024. URL https://arxiv.org/abs/2412.16720.
  5. W. L. Chiang, L. Zheng, Y. Sheng, A. N. Angelopoulos, T. Li, D. Li, H. Zhang, B. Zhu, M. Jordan, J. Gonzalez, I. Stoica. Chatbot Arena: An open platform for evaluating LLMs by human preference. arXiv preprint arXiv:2403.04132, 2024. URL https://arxiv.org/abs/2403.04132.
  6. J. Wei, X. Wang, D. Schuurmans, M. Bosma, E. H. Chi, F. Xia, Q. Le, D. Zhou. Chain-of-thought prompting elicits reasoning in large language models. Advances in Neural Information Processing Systems, 35:24824–24837, 2022. URL https://proceedings.neurips.cc/paper_files/paper/2022/hash/9d5609613524ecf4f15af0f7b31abca4-Abstract-Conference.html.
  7. S. Yao, J. Zhao, D. Yu, N. Du, I. Shafran, K. Narasimhan, Y. Cao. ReAct: 언어 모델에서 추론과 행동의 시너지. 국제 학습 표현 학회(ICLR), 2023. URL https://arxiv.org/abs/2210.03629.
  8. A. Grattafiori, A. Dubey, A. Jauhri, A. Pandey, A. Kadian, A. Al-Dahle, A. Letman, A. Mathur, A. Schelten, A. Yang, A. Fan 외. Llama 3 모델군. arXiv 프리프린트 arXiv:2407.21783, 2024. URL https://arxiv.org/abs/2407.21783.
  9. DeepSeek-AI, A. Liu, B. Feng, B. Xue, B. Wang, B. Wu, C. Lu, C. Zhao, C. Deng, C. Zhang 외. DeepSeek-V3 기술 보고서. arXiv 프리프린트 arXiv:2412.19437, 2024. URL https://arxiv.org/abs/2412.19437.

기여

이 작업은 OpenRouter 팀이 개발한 기반 플랫폼, 인프라, 데이터 세트 및 기술적 비전 덕분에 가능했습니다. 특히 Alex Atallah, Chris Clark, Louis Vichy는 이 연구에서 수행한 탐색을 가능하게 한 엔지니어링 기반과 아키텍처 방향을 제공했습니다. Justin Summerville은 구현, 테스트 및 실험 개선 전반에 걸쳐 핵심적인 지원을 제공했습니다. 그 밖에도 Natwar Maheshwari는 출시를 지원했고 Julian Thayn은 디자인 편집에 기여했습니다.

a16z의 Malika Aubakirova는 실험 설계, 구현, 데이터 분석 및 논문 전체 작성 준비를 담당한 주저자입니다. Anjney Midha는 전략적 지침을 제공하고 전반적인 구성과 방향을 정립했습니다.

초기 탐색적 실험과 시스템 설정은 a16z 인턴십 기간 동안 Abhi Desai의 지원을 받았습니다. Rajko Radovanovic와 Tyler Burkett은 여러 핵심 구성 요소를 강화한 구체적인 기술적 통찰과 실질적인 지원을 제공했습니다.

모든 기여자는 논의에 참여하고 피드백을 제공했으며 최종 원고를 검토했습니다.

부록

Category Sub-Composition Details

아래 수치는 세 가지 주요 도메인인 롤플레이, 프로그래밍, 기술의 내부 하위 태그 구조를 분석한 것입니다. 각 도메인은 사용자가 해당 카테고리에서 LLM과 상호작용하는 방식을 보여 주는 고유한 내부 패턴을 나타냅니다.

롤플레이 카테고리 분석
롤플레이(하위 태그). 토큰은 롤플레잉 게임 시나리오(58%)와 기타 창의적 대화(페르소나 채팅, 내러티브 공동 작성 등)로 나뉩니다.
프로그래밍 카테고리 분석
프로그래밍(하위 태그). 일반적인 코딩 작업이 대부분을 차지하며(특정 단일 도메인이 지배적이지 않음), 웹 개발, 데이터 과학 등이 그 뒤를 잇습니다. 이는 프로그래밍 주제 전반에 걸쳐 폭넓게 사용되고 있음을 보여 줍니다.
기술 카테고리 분석
기술(하위 태그). 주로 지능형 어시스턴트 및 생산성 소프트웨어 사용 사례(통합 약 65%)가 차지하며, 그다음으로 IT 지원 및 소비자 전자제품 관련 문의가 뒤를 잇습니다.

세 도메인(롤플레이, 기술, 프로그래밍)은 모두 고유한 내부 패턴을 나타내며, 이는 각 주요 도메인의 다양한 하위 카테고리에서 사용자가 LLM을 활용하는 방식을 반영합니다.