gpt-oss-120b is an open-weight, 117B-parameter Mixture-of-Experts (MoE) language model from OpenAI designed for high-reasoning, agentic, and general-purpose production use cases. It activates 5.1B parameters per forward pass and is optimized to run on a single H100 GPU with native MXFP4 quantization. The model supports configurable reasoning depth, full chain-of-thought access, and native tool use, including function calling, browsing, and structured output generation.
| US$0.03 | US$0.15 | US$0.03 | 2.57s | 13 tps | ||
| US$0.03 | US$0.17 | US$0.03 | 0.29s | 69 tps | ||
| US$0.03 | US$0.18 | US$0.03 | 0.65s | 19 tps | ||
| US$0.03 | US$0.187 | US$0.03 | 6.12s | 51 tps | ||
| US$0.037 | US$0.17 | -- | 0.40s | 35 tps | ||
| US$0.05 | US$0.25 | US$0.05 | 0.18s | 195 tps | ||
| US$0.05 | US$0.25 | -- | 0.55s | 56 tps | ||
| US$0.05 | US$0.25 | -- | 0.62s | 152 tps | ||
| US$0.06 | US$0.42 | US$0.012 | 0.36s | 56 tps | ||
| US$0.10 | US$0.50 | US$0.10 | 0.20s | 212 tps | ||
| US$0.10 | US$0.50 | US$0.10 | 0.22s | 167 tps | ||
| US$0.10 | US$0.75 | US$0.055 | 0.41s | 92 tps | ||
| US$0.14 | US$0.95 | -- | 0.42s | 229 tps | ||
| US$0.15 | US$0.60 | -- | 0.22s | 270 tps | ||
| US$0.15 | US$0.60 | -- | 0.56s | 245 tps | ||
| US$0.15 | US$0.60 | -- | 0.33s | 125 tps | ||
| US$0.15 | US$0.60 | -- | 0.82s | 131 tps | ||
| US$0.15 | US$0.60 | -- | 0.20s | 93 tps | ||
| US$0.15 | US$0.60 | US$0.075 | 0.19s | 312 tps | ||
| US$0.15 | US$0.75 | -- | 0.57s | 132 tps | ||
| US$0.35 | US$0.75 | US$0.35 | 0.25s | 636 tps | ||
| US$0.09 | US$0.36 | -- | 0.29s | 174 tps | ||
| US$0.15 | US$0.60 | US$0.075 | -- | -- | ||
Standard 라우팅에서 사용되지 않음:이 엔드포인트를 사용하지 않는 이유 | ||||||
| US$0.15 | US$0.60 | -- | 0.47s | 133 tps | ||
P50, 제공업체 전체 중 최고
P50, 최고 제공업체
업스트림 제공업체에서 오류가 발생하면 요청 필터에서 허용하는 경우 정상 상태인 다른 제공업체로 라우팅하여 복구할 수 있습니다. 제공업체별 가동 시간 데이터는 프로그래밍 방식으로 엔드포인트 API를 통해 확인할 수 있습니다. 로드 밸런싱 및 사용자 지정 옵션에 대해 자세히 알아보세요.