
meta-llama/llama-3.1-8b-instruct
모델 가중치Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 8B instruct-tuned version is fast and efficient.
It has demonstrated strong performance compared to leading closed-source models in human evaluations.
To read more about the model release, click hereOpens in new tab. Usage of this model is subject to Meta's Acceptable Use PolicyOpens in new tab.
| US$0.02 | US$0.04 | -- | 1.02s | 38 tps | ||
| US$0.02 | US$0.05 | -- | 0.51s | 104 tps | ||
| US$0.05 | US$0.08 | US$0.025 | 0.15s | 356 tps | ||
| US$0.152 | US$0.287 | -- | 0.45s | 17 tps | ||
| US$0.22 | US$0.22 | US$0.22 | 0.45s | 145 tps |
P50, 제공업체 전체 중 최고
P50, 최고 제공업체
업스트림 제공업체에서 오류가 발생하면 요청 필터에서 허용하는 경우 정상 상태인 다른 제공업체로 라우팅하여 복구할 수 있습니다. 제공업체별 가동 시간 데이터는 프로그래밍 방식으로 엔드포인트 API를 통해 확인할 수 있습니다. 로드 밸런싱 및 사용자 지정 옵션에 대해 자세히 알아보세요.