openai/gpt-oss-20b
Modellgewichtegpt-oss-20b is an open-weight 21B parameter model released by OpenAI under the Apache 2.0 license. It uses a Mixture-of-Experts (MoE) architecture with 3.6B active parameters per forward pass, optimized for lower-latency inference and deployability on consumer or single-GPU hardware. The model is trained in OpenAI’s Harmony response format and supports reasoning level configuration, fine-tuning, and agentic capabilities including function calling, tool use, and structured outputs.
| 0,006 $ | 0,026 $ | 0,005 $ | 0,41s | 121 tps | ||
| 0,018 $ | 0,09 $ | 0,009 $ | 1,61s | 58 tps | ||
| 0,02 $ | 0,10 $ | -- | 0,43s | 131 tps | ||
| 0,029 $ | 0,14 $ | 0,029 $ | 0,56s | 59 tps | ||
| 0,03 $ | 0,13 $ | 0,03 $ | 0,30s | 123 tps | ||
| 0,03 $ | 0,14 $ | -- | 0,96s | 61 tps | ||
| 0,03 $ | 0,15 $ | 0,02 $ | 1,93s | 94 tps | ||
| 0,04 $ | 0,18 $ | -- | 1,04s | 84 tps | ||
| 0,07 $ | 0,15 $ | -- | 0,41s | 408 tps | ||
| 0,075 $ | 0,30 $ | 0,0375 $ | 0,38s | 393 tps | ||
Nicht beim Routing im Modus Standard verwendet:Warum diese Endpunkte nicht verwendet werden | ||||||
| 0,07 $ | 0,15 $ | -- | 0,50s | 126 tps | ||
P50, bester Wert über alle Anbieter hinweg
P50, bester Anbieter
Wenn bei einem vorgelagerten Anbieter ein Fehler auftritt, können wir diesen durch die Weiterleitung an einen anderen funktionsfähigen Anbieter beheben, sofern Ihre Anfragefilter dies zulassen. Sie können programmgesteuert auf die Verfügbarkeitsdaten pro Anbieter zugreifen, und zwar über die Endpunkt-API. Erfahren Sie mehr über unsere Optionen für Lastverteilung und Anbieter-Routing.