
meta-llama/llama-3.3-70b-instruct
モデルの重みThe Meta Llama 3.3 multilingual large language model (LLM) is a pretrained and instruction tuned generative model in 70B (text in/text out). The Llama 3.3 instruction tuned text only model is optimized for multilingual dialogue use cases and outperforms many of the available open source and closed chat models on common industry benchmarks.
Supported languages: English, German, French, Italian, Portuguese, Hindi, Spanish, and Thai.
現在、EU 域内ルーティングでは利用できません。 リージョン内ルーティングのドキュメント
| $0.10 | $0.32 | -- | 0.48s | 22 tps | ||
| $0.135 | $0.40 | -- | 0.72s | 40 tps | ||
| $0.20 | $0.52 | $0.10 | 0.57s | 44 tps | ||
| $0.22 | $0.50 | $0.11 | 0.81s | 48 tps | ||
| $0.293 | $2.253 | -- | 0.72s | 36 tps | ||
25% off | $0.60$0.45 | $1.20$0.90 | -- | 0.50s | 97 tps | |
| $0.59 | $0.79 | $0.295 | 0.29s | 200 tps | ||
| $0.71 | $0.71 | $0.71 | 0.18s | 82 tps | ||
| $0.72 | $0.72 | -- | -- | -- | ||
| $0.72 | $0.72 | -- | -- | -- |
P50、プロバイダー全体での最良値
P50、最適なプロバイダー
上流のプロバイダーでエラーが発生した場合、リクエストフィルターが許可していれば、別の正常なプロバイダーにルーティングして復旧できます。プロバイダーごとの稼働率データにプログラムでアクセスするには Endpoints APIを利用できます。詳しくは、 負荷分散とプロバイダールーティングのオプションをご覧ください。