
meta-llama/llama-3.1-8b-instruct
モデルの重みMeta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 8B instruct-tuned version is fast and efficient.
It has demonstrated strong performance compared to leading closed-source models in human evaluations.
To read more about the model release, click hereOpens in new tab. Usage of this model is subject to Meta's Acceptable Use PolicyOpens in new tab.
現在、EU 域内ルーティングでは利用できません。 リージョン内ルーティングのドキュメント
| $0.02 | $0.04 | -- | 1.01s | 29 tps | ||
| $0.02 | $0.05 | -- | 0.47s | 110 tps | ||
| $0.05 | $0.08 | $0.025 | 0.12s | 410 tps | ||
| $0.22 | $0.22 | $0.22 | 0.35s | 136 tps | ||
| $0.152 | $0.287 | -- | 0.44s | 15 tps |
P50、プロバイダー全体での最良値
P50、最適なプロバイダー
上流のプロバイダーでエラーが発生した場合、リクエストフィルターが許可していれば、別の正常なプロバイダーにルーティングして復旧できます。プロバイダーごとの稼働率データにプログラムでアクセスするには Endpoints APIを利用できます。詳しくは、 負荷分散とプロバイダールーティングのオプションをご覧ください。