
meta-llama/llama-3.3-70b-instruct
모델 가중치The Meta Llama 3.3 multilingual large language model (LLM) is a pretrained and instruction tuned generative model in 70B (text in/text out). The Llama 3.3 instruction tuned text only model is optimized for multilingual dialogue use cases and outperforms many of the available open source and closed chat models on common industry benchmarks.
Supported languages: English, German, French, Italian, Portuguese, Hindi, Spanish, and Thai.
| US$0.10 | US$0.32 | -- | 0.39s | 20 tps | ||
| US$0.135 | US$0.40 | -- | 0.80s | 26 tps | ||
| US$0.20 | US$0.52 | US$0.10 | 0.40s | 41 tps | ||
| US$0.22 | US$0.50 | US$0.11 | 0.51s | 44 tps | ||
| US$0.293 | US$2.253 | -- | 0.36s | 39 tps | ||
25% off | US$0.60US$0.45 | US$1.20US$0.90 | -- | 0.55s | 104 tps | |
| US$0.59 | US$0.79 | US$0.295 | 0.26s | 229 tps | ||
| US$0.71 | US$0.71 | US$0.71 | 0.15s | 89 tps | ||
| US$0.72 | US$0.72 | -- | 1.92s | 101 tps | ||
| US$0.72 | US$0.72 | -- | -- | -- | ||
| US$1.04 | US$1.04 | -- | 0.48s | 47 tps |
P50, 제공업체 전체 중 최고
P50, 최고 제공업체
업스트림 제공업체에서 오류가 발생하면 요청 필터에서 허용하는 경우 정상 상태인 다른 제공업체로 라우팅하여 복구할 수 있습니다. 제공업체별 가동 시간 데이터는 프로그래밍 방식으로 엔드포인트 API를 통해 확인할 수 있습니다. 로드 밸런싱 및 사용자 지정 옵션에 대해 자세히 알아보세요.