
meta-llama/llama-3.1-8b-instruct
모델 가중치Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 8B instruct-tuned version is fast and efficient.
It has demonstrated strong performance compared to leading closed-source models in human evaluations.
To read more about the model release, click hereOpens in new tab. Usage of this model is subject to Meta's Acceptable Use PolicyOpens in new tab.
현재 EU 역내 라우팅을 통해 사용할 수 없습니다. 리전 내 라우팅 문서
| US$0.02 | US$0.04 | -- | 1.01s | 29 tps | ||
| US$0.02 | US$0.05 | -- | 0.47s | 110 tps | ||
| US$0.05 | US$0.08 | US$0.025 | 0.12s | 410 tps | ||
| US$0.22 | US$0.22 | US$0.22 | 0.35s | 136 tps | ||
| US$0.152 | US$0.287 | -- | 0.44s | 15 tps |
P50, 제공업체 중 최고
P50, 최상의 제공업체
업스트림 제공업체에서 오류가 발생하면 요청 필터가 허용하는 경우 정상 상태인 다른 제공업체로 라우팅하여 복구할 수 있습니다. 제공업체별 가동 시간 데이터에 프로그래밍 방식으로 액세스할 때 사용하는 API는 엔드포인트 API입니다. 자세히 알아볼 수 있는 관련 옵션은 부하 분산 및 제공업체 라우팅 옵션입니다.