
meta-llama/llama-3.1-8b-instruct
ModellgewichteMeta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 8B instruct-tuned version is fast and efficient.
It has demonstrated strong performance compared to leading closed-source models in human evaluations.
To read more about the model release, click hereOpens in new tab. Usage of this model is subject to Meta's Acceptable Use PolicyOpens in new tab.
Derzeit nicht über EU-regionales Routing verfügbar. Dokumentation zum regionsinternen Routing
| 0,02 $ | 0,04 $ | -- | 1,01s | 29 tps | ||
| 0,02 $ | 0,05 $ | -- | 0,47s | 110 tps | ||
| 0,05 $ | 0,08 $ | 0,025 $ | 0,12s | 410 tps | ||
| 0,22 $ | 0,22 $ | 0,22 $ | 0,35s | 136 tps | ||
| 0,152 $ | 0,287 $ | -- | 0,44s | 15 tps |
P50, bester Wert über alle Anbieter hinweg
P50, bester Anbieter
Wenn bei einem vorgelagerten Anbieter ein Fehler auftritt, können wir diesen durch die Weiterleitung an einen anderen funktionsfähigen Anbieter beheben, sofern Ihre Anfragefilter dies zulassen. Sie können programmgesteuert auf die Verfügbarkeitsdaten pro Anbieter zugreifen, und zwar über die Endpunkt-API. Erfahren Sie mehr über unsere Optionen für Lastverteilung und Anbieter-Routing.