Zephyr 141B-A35B

Zephyr 141B-A35B is A Mixture of Experts (MoE) model with 141B total parameters and 35B active parameters. Fine-tuned on a mix of publicly available, synthetic datasets. It is an instruct finetune of Mixtral 8x22B. #moe

Zephyr 141B-A35B のコンテキストウィンドウは 65,536 トークンです。

Zephyr 141B-A35B は 2024年4月12日 にリリースされました。知識のカットオフ日は 2024年1月31日 です。