
mistralai/mixtral-8x22b-instruct
ModellgewichteMistral's official instruct fine-tuned version of Mixtral 8x22B. It uses 39B active parameters out of 141B, offering unparalleled cost efficiency for its size. Its strengths include:
See benchmarks on the launch announcement hereOpens in new tab. #moe
| 2,00 $ | 6,00 $ | 0,20 $ | 0,49s | 102 tps | ||
| 2,00 $ | 6,00 $ | 0,20 $ | 0,43s | 104 tps | ||
Nicht beim Routing im Modus Standard verwendet:Warum diese Endpunkte nicht verwendet werden | ||||||
| 2,20 $ | 6,60 $ | 0,22 $ | -- | -- | ||
P50, bester Wert über alle Anbieter hinweg
P50, bester Anbieter
Wenn bei einem vorgelagerten Anbieter ein Fehler auftritt, können wir diesen durch die Weiterleitung an einen anderen funktionsfähigen Anbieter beheben, sofern Ihre Anfragefilter dies zulassen. Sie können programmgesteuert auf die Verfügbarkeitsdaten pro Anbieter zugreifen, und zwar über die Endpunkt-API. Erfahren Sie mehr über unsere Optionen für Lastverteilung und Anbieter-Routing.