gpt-oss-20b is an open-weight 21B parameter model released by OpenAI under the Apache 2.0 license. It uses a Mixture-of-Experts (MoE) architecture with 3.6B active parameters per forward pass, optimized for lower-latency inference and deployability on consumer or single-GPU hardware. The model is trained in OpenAI’s Harmony response format and supports reasoning level configuration, fine-tuning, and agentic capabilities including function calling, tool use, and structured outputs.
| $0.006 | $0.026 | $0.005 | 0.45s | 115 tps | ||
| $0.018 | $0.09 | $0.009 | 1.55s | 56 tps | ||
| $0.02 | $0.10 | -- | 0.42s | 130 tps | ||
| $0.029 | $0.14 | $0.029 | 0.56s | 57 tps | ||
| $0.03 | $0.13 | $0.03 | 0.30s | 124 tps | ||
| $0.03 | $0.14 | -- | 0.85s | 64 tps | ||
| $0.03 | $0.15 | $0.02 | 1.82s | 97 tps | ||
| $0.04 | $0.18 | -- | 1.06s | 41 tps | ||
| $0.07 | $0.15 | -- | 0.41s | 419 tps | ||
| $0.075 | $0.30 | $0.0375 | 0.38s | 380 tps | ||
Standard ルーティングでは使用されません:これらのエンドポイントが使用されない理由 | ||||||
| $0.07 | $0.15 | -- | 0.36s | 126 tps | ||
P50、プロバイダー全体での最良値
P50、最適なプロバイダー
上流のプロバイダーでエラーが発生した場合、リクエストフィルターが許可していれば、別の正常なプロバイダーにルーティングして復旧できます。プロバイダーごとの稼働率データにプログラムでアクセスするには Endpoints APIを利用できます。詳しくは、 負荷分散とプロバイダールーティングのオプションをご覧ください。