Mistral's official instruct fine-tuned version of Mixtral 8x22B. It uses 39B active parameters out of 141B, offering unparalleled cost efficiency for its size. Its strengths include:
See benchmarks on the launch announcement hereOpens in new tab. #moe
| US$2.00 | US$6.00 | US$0.20 | 0.51s | 102 tps | ||
| US$2.00 | US$6.00 | US$0.20 | 0.45s | 104 tps | ||
不用于 Standard 路由:未使用这些端点的原因 | ||||||
| US$2.20 | US$6.60 | US$0.22 | -- | -- | ||
P50,所有提供商中最佳
P50,最佳提供商
当上游提供商发生错误时,如果您的请求筛选条件允许,我们可以通过路由到另一家健康的提供商来恢复服务。您可以通过以下接口以编程方式访问各提供商的正常运行时间数据: 端点 API。了解更多有关我们的 负载均衡和提供商路由选项。