
meta-llama/llama-3.1-8b-instruct
Pesos del modeloMeta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 8B instruct-tuned version is fast and efficient.
It has demonstrated strong performance compared to leading closed-source models in human evaluations.
To read more about the model release, click hereOpens in new tab. Usage of this model is subject to Meta's Acceptable Use PolicyOpens in new tab.
Actualmente no está disponible mediante el enrutamiento dentro de la región de la UE. Documentación de enrutamiento dentro de la región
| 0,02 US$ | 0,04 US$ | -- | 1,14s | 29 tps | ||
| 0,02 US$ | 0,05 US$ | -- | 0,47s | 111 tps | ||
| 0,05 US$ | 0,08 US$ | 0,025 US$ | 0,13s | 415 tps | ||
| 0,22 US$ | 0,22 US$ | 0,22 US$ | 0,33s | 134 tps | ||
| 0,152 US$ | 0,287 US$ | -- | 0,45s | 15 tps |
P50, el mejor entre los proveedores
P50, mejor proveedor
Cuando se produce un error en un proveedor ascendente, podemos recuperarnos enrutando la solicitud a otro proveedor que funcione correctamente, si los filtros de su solicitud lo permiten. Puede acceder mediante programación a los datos de tiempo de actividad de cada proveedor a través de la API de endpoints. Obtenga más información sobre nuestras opciones de equilibrio de carga y enrutamiento de proveedores.
Llama 3.1 8B Instruct cuesta 0,02 US/M de tókenes de salida.