A 12B parameter model with a 128k token context length built by Mistral in collaboration with NVIDIA.
The model is multilingual, supporting English, French, German, Spanish, Italian, Portuguese, Chinese, Japanese, Korean, Arabic, and Hindi.
It supports function calling and is released under the Apache 2.0 license.
28% off | US$0.023US$0.01656 | US$0.03US$0.0216 | US$0.015US$0.0108 | 0.35s | 60 tps | |
|---|---|---|---|---|---|---|
| US$0.018 | US$0.03 | -- | 0.62s | 11 tps | ||
| US$0.029 | US$0.03 | -- | 0.67s | 36 tps | ||
| US$0.03 | US$0.03 | -- | 0.38s | 99 tps | ||
不用于 Standard 路由:未使用这些端点的原因 | ||||||
| US$0.15 | US$0.15 | US$0.015 | 0.65s | 59 tps | ||
P50,所有提供商中最佳
P50,最佳提供商
当上游提供商发生错误时,如果您的请求筛选条件允许,我们可以通过路由到另一家健康的提供商来恢复服务。您可以通过以下接口以编程方式访问各提供商的正常运行时间数据: 端点 API。了解更多有关我们的 负载均衡和提供商路由选项。