
meta-llama/llama-3.1-8b-instruct
Poids du modèleMeta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 8B instruct-tuned version is fast and efficient.
It has demonstrated strong performance compared to leading closed-source models in human evaluations.
To read more about the model release, click hereOpens in new tab. Usage of this model is subject to Meta's Acceptable Use PolicyOpens in new tab.
Actuellement indisponible via le routage dans la région UE. Documentation sur le routage intrarégional
| 0,02 $US | 0,04 $US | -- | 1,01s | 29 tps | ||
| 0,02 $US | 0,05 $US | -- | 0,47s | 110 tps | ||
| 0,05 $US | 0,08 $US | 0,025 $US | 0,12s | 410 tps | ||
| 0,22 $US | 0,22 $US | 0,22 $US | 0,35s | 136 tps | ||
| 0,152 $US | 0,287 $US | -- | 0,44s | 15 tps |
P50, meilleur résultat tous fournisseurs confondus
P50, meilleur fournisseur
Lorsqu’une erreur survient chez un fournisseur en amont, nous pouvons rétablir le service en routant la requête vers un autre fournisseur opérationnel, si les filtres de votre requête le permettent. Vous pouvez accéder par programmation aux données de disponibilité de chaque fournisseur via l’ API des points de terminaison. Découvrez nos options d’ équilibrage de charge et de routage des fournisseurs.