Jared Palmer: Kev 4B

Verschiedene Unternehmen hosten dasselbe Modell. OpenRouter leitet Ihre Anfrage je nach gewähltem Routing-Modus an eines davon weiter — Balanced (Preis + Geschwindigkeit), Nitro (am schnellsten) oder Floor (am günstigsten).

Der durchschnittliche Preis, den Kunden tatsächlich für dieses Modell zahlen, neben den von Anbietern veröffentlichten Preisen. Durch Caching und Rabatte liegt der tatsächlich gezahlte Preis oft deutlich unter dem Listenpreis.

Der Durchsatz gibt an, wie schnell das Modell schreibt (Token pro Sekunde – höher ist besser). Die Latenz ist die gesamte Umlaufzeit (niedriger ist besser). TTFT ist die Zeit bis zum ersten Token – also die Wartezeit, bis etwas angezeigt wird (niedriger ist besser).

Verfügbarkeit ist der prozentuale Anteil der letzten 3 Tage, in dem mindestens ein Anbieter auf Anfragen reagiert hat. Die Verfügbarkeit der Inferenz ist der prozentuale Anteil der Zeit, in der Inferenz erfolgreich bereitgestellt wurde. OpenRouter überwacht dies kontinuierlich und verwendet den nächstbesten Anbieter, wenn ein Anbieter einen Fehler zurückgibt.

Öffentliche Apps, die den meisten Datenverkehr an dieses Modell senden. Ein guter Anhaltspunkt dafür, wie echte Produktionsworkloads aussehen – und ein Hinweis darauf, für welche Anwendungsfälle dieses Modell am besten geeignet ist.

Token-Volumen und Anfrageaufkommen für dieses Modell im Zeitverlauf.

Anleitungen, Rezeptsammlungen, Blogbeiträge und Tools für die Entwicklung mit Jared Palmer: Kev 4B auf OpenRouter.