Eagle 7B とは何ですか？

Eagle 7B is trained on 1.1 Trillion Tokens across 100+ world languages (70% English, 15% multilang, 15% code). - Built on the RWKV-v5 architecture (a linear transformer with 10-100x+ lower inference cost) - Ranks as the world's greenest 7B model (per token) - Outperforms all 7B class models in multi-lingual benchmarks - Approaches Falcon (1.5T), LLaMA2 (2T), Mistral (>2T?) level of performance...

Eagle 7B のコンテキスト長はどれくらいですか？

Eagle 7B のコンテキストウィンドウは 10,000 トークンです。

Eagle 7B はいつリリースされましたか？

Eagle 7B は 2024年1月29日にリリースされました。知識のカットオフ日は 2024年1月31日です。

RWKV v5: Eagle 7B

Name: RWKV v5: Eagle 7B
Author: Recursal

recursal/eagle-7b

モデルの重み

Eagle 7B is trained on 1.1 Trillion Tokens across 100+ world languages (70% English, 15% multilang, 15% code).

Built on the RWKV-v5 architecture (a linear transformer with 10-100x+ lower inference cost)
Ranks as the world's greenest 7B model (per token)
Outperforms all 7B class models in multi-lingual benchmarks
Approaches Falcon (1.5T), LLaMA2 (2T), Mistral (>2T?) level of performance in English evals
Trade blows with MPT-7B (1T) in English evals
All while being an "Attention-Free Transformer"

Eagle 7B models are provided for free, by Recursal.AI, for the beta period till end of March 2024

Find out more here

rnn

モダリティ

コンテキスト

10K

公開日

2024年1月29日

知識のカットオフ

2024年1月

RWKV v5: Eagle 7B

RWKV v5: Eagle 7B

アクティビティ

さらにモデルを探す

アクティビティ

よくある質問

さらにモデルを探す

その他のモデル：提供元 recursal

よくある質問

その他のモデル：提供元 recursal