Mistral's official instruct fine-tuned version of Mixtral 8x22B. It uses 39B active parameters out of 141B, offering unparalleled cost efficiency for its size. Its strengths include:
See benchmarks on the launch announcement hereOpens in new tab. #moe
| US$2.00 | US$6.00 | US$0.20 | 0.49s | 102 tps | ||
| US$2.00 | US$6.00 | US$0.20 | 0.43s | 104 tps | ||
Standard 라우팅에서 사용되지 않음:이 엔드포인트가 사용되지 않는 이유 | ||||||
| US$2.20 | US$6.60 | US$0.22 | -- | -- | ||
P50, 제공업체 중 최고
P50, 최상의 제공업체
업스트림 제공업체에서 오류가 발생하면 요청 필터가 허용하는 경우 정상 상태인 다른 제공업체로 라우팅하여 복구할 수 있습니다. 제공업체별 가동 시간 데이터에 프로그래밍 방식으로 액세스할 때 사용하는 API는 엔드포인트 API입니다. 자세히 알아볼 수 있는 관련 옵션은 부하 분산 및 제공업체 라우팅 옵션입니다.