ori

Ori Eval: # Finden Sie das beste Modell für Ihr Projekt

Sagen Sie Ihrem Agenten
❯
# Verwenden Sie OpenRouter MCP? Führen Sie /spawn-ori-eval in Ihrem Agenten aus, um loszulegen
Dokumentation lesen →

01──Finden Sie das beste Modell – mit Nachweisen

Fragen Sie einfach. Ihr Agent übergibt die Anfrage an Ori Eval, das Ihre Codebasis untersucht, Modelle evaluiert und mit einer Antwort zurückkehrt.

02──Neu bei Evaluierungen? Wir ermitteln gemeinsam mit Ihnen, was getestet werden soll

Sie haben noch nie eine Evaluierung geschrieben? Ori Eval durchsucht Ihre Codebasis nach allen Stellen, an denen ein Modell ausgeführt wird – in welchem Bereich, wo sich der Code befindet und welches Modell aktuell verwendet wird – und fragt ab, welche davon Sie evaluieren möchten. Es begleitet Sie wie ein erfahrener Freund aus der Softwareentwicklung.

03──Konsistente Ergebnisse, auf die Sie sich verlassen können, Durchlauf für Durchlauf

Wenn die Testumgebung bei jedem Durchlauf identisch bleibt, werden Evaluationen wiederholbar und konsistent. Deshalb ist Ori Eval ein Agent: Anders als ein Skill kann er Modell und Denkaufwand festlegen. Er ist bereits vorab abgestimmt – wir haben den Harness und das Modell ausgewählt, die am besten funktionieren, damit Sie das nicht tun müssen.

04──Finden Sie einen Fehler, bevor Sie ihn beheben

Jeder Fehler wird zu einem Test: Er schlägt zunächst fehl, besteht, sobald Sie den Agenten korrigiert haben, und verhindert, dass der Fehler erneut auftritt.

05──Stoppen Sie Regressionen vor der Auslieferung

In CI lässt eine fehlerhafte Änderung den Build fehlschlagen, sodass Fehler Ihre Nutzer nie erreichen.

06──Bei Veröffentlichung neuer Modelle erneut ausführen

Ihre Evaluierungen sind einfach Code. Führen Sie sie manuell erneut aus, wenn ein neues Modell erscheint, oder planen Sie eine monatliche Ausführung. Sie können beruhigt schlafen, weil Sie wissen, dass Sie immer das beste Modell für Ihr Projekt haben.

07──Seien Sie sicher, dass es das Richtige getan hat

Eine Evaluierung prüft drei Dinge: die vom Agenten aufgerufenen Tools, die von ihm vermiedenen Tools und die Qualität der Antwort – so erkennen Sie den falschen Schritt, bevor Ihre Nutzer es tun.

08──FAQ

Immer mehr Apps nutzen KI-Modelle als Teil ihrer Kernfunktionalität, doch die
Wahl des Modells erfolgt häufig ohne systematische Methode. Es gibt kein
eindeutig „bestes Modell“, sondern nur das beste Modell für das, was Sie
entwickeln. Ori Eval hilft Ihnen, dieses Modell zu finden, mit quantitativem
Nachweis.

Ori Eval ist für alle, die das beste Modell für ihr Projekt anhand
quantitativer Nachweise statt durch Vermutungen auswählen möchten. Sie müssen
kein Experte für Evaluierungen sein; wir haben es so entwickelt, dass jeder es
nutzen kann. Es stellt Ihnen Fragen und führt Sie durch den gesamten
Modellevaluierungsprozess, wie ein wirklich kluger Kollege aus der
Entwicklung.

Eine der größeren Herausforderungen bei Modellevaluierungen besteht darin, den
Test-Harness über mehrere Durchläufe hinweg konsistent zu halten – schließlich
sollen mehrere Durchläufe derselben Evaluierung keine unterschiedlichen
Ergebnisse liefern. Deshalb sind der Agenten-Harness und das Modell von Ori
Eval festgelegt, sodass jeder Durchlauf dieselbe Konfiguration bewertet.
Nachdem Ori Eval gemeinsam mit Ihnen die Anforderungen erfasst hat, erstellt
es *.eval.ts-Dateien und führt sie mit bun test aus.

Ori fixiert den Harness und das Modell während eines Durchlaufs. Die Umgebung
ändert sich nicht, sodass etwaige Unterschiede durch das Modell verursacht
würden.

Die meisten Harnesses, die verwendet werden, sind auf die KI-Modelle des
jeweiligen Unternehmens beschränkt. Ori Eval hat Zugriff auf alle Modelle von
OpenRouter, wodurch Ori Eval flexibel die Modelle mit dem besten
Preis-Leistungs-Verhältnis nutzen kann. Wir kümmern uns für Sie um den
Test-Harness, damit Sie sich auf die Verbesserung Ihres Projekts konzentrieren
können.

Ja. Führen Sie für die interaktive Agentennutzung ori login aus. Ori öffnet
OpenRouter in Ihrem Browser und speichert die Anmeldedaten für spätere
Ausführungen, sodass Sie keinen API-Schlüssel erstellen oder einfügen müssen.
Wenn keine Anmeldedaten verfügbar sind, stoppt Ori vor dem Modellaufruf und
fordert Sie auf, sich anzumelden. Verwenden Sie für CI stattdessen
OPENROUTER_API_KEY.

Setzen Sie für CI OPENROUTER_API_KEY über ein Repository-Secret. Ori benötigt
ori login nicht, wenn diese Variable gesetzt ist.

Ori Eval ruft eine Liste der neuesten Modelle auf OpenRouter ab, die Ihren
Kriterien entsprechen, und erklärt Ihnen, warum das jeweilige Modell
ausgewählt wurde. Sie müssen die Liste nicht selbst abrufen; Sie müssen nicht
einmal etwas über KI-Modelle wissen. Der Modellauswahlprozess lässt sich
umfassend anpassen – Sie können eine Preisobergrenze festlegen, Ihr aktuelles
Modell in der Auswahl behalten oder dieselbe Evaluierung für jedes Modell
ausführen.

Ja, das wird ausdrücklich empfohlen – je mehr Daten Sie zu Ihrem
Anwendungsfall bereitstellen, desto genauer wird der Evaluationslauf. Ori Eval
fragt Sie, ob Ihre Daten in die Evaluationen einbezogen werden sollen. Die
Evaluation durchläuft jede Zeile und bewertet ein neues Modell im Vergleich zu
Ihrem aktuellen Modell anhand Ihrer eigenen Referenzantworten.

Wir verwenden LLM-as-a-judge, um offene Antworten zu bewerten. Ori Eval hilft
dabei, Bewertungskriterien und eine Mindestpunktzahl festzulegen.

Fügen Sie ori eval zu einem GitHub Actions-Workflow hinzu. Es beendet sich wie
bun test, sodass eine fehlgeschlagene Evaluation den Build fehlschlagen lässt.
Richten Sie dafür einen separaten, optional aktivierbaren Job ein —
Evaluationen rufen echte Modelle auf und kosten Geld.

Erstellen Sie eine *.eval.ts-Datei, importieren Sie setupAgent aus ori/eval,
rufen Sie agent.run(prompt) auf und prüfen Sie die Ausführung mit Assertions:
run.tool("x").toBeCalled(), run.toComplete(), run.toMention("…"). Führen Sie
anschließend ori eval aus.

Normalerweise müssen Sie das nicht: Weisen Sie Ihren Coding-Agenten an, run
curl -fsSL https://openrouter.ai/skills/spawn-ori-eval and follow the
instructions in its output to get started, und der Skill installiert Ori und
führt die Evaluierung für Sie durch. Zur manuellen Installation führen Sie
Folgendes aus: curl -fsSL https://openrouter.ai/labs/ori/install.sh | bash

Nein. OpenRouter MCP verfügt über ein spawn-ori-eval-Tool. Führen Sie
/spawn-ori-eval in Ihrem Agenten aus, um zu beginnen – dasselbe Dokument, ohne
eine URL einfügen zu müssen.
Sagen Sie Ihrem Agenten❯