ori

Ori Eval : # Trouvez le meilleur modèle pour ce que vous développez

dites à votre agent
❯
# Vous utilisez OpenRouter MCP ? Exécutez /spawn-ori-eval dans votre agent pour commencer
lire la documentation →

01──Trouvez le meilleur modèle, preuves à l’appui

Il suffit de demander. Votre agent transmettra la requête à Ori Eval, qui explore votre base de code, exécute des évaluations sur les modèles et vous apporte une réponse.

02──Vous débutez avec les évaluations ? Nous déterminons avec vous ce qu’il faut tester

Vous n’avez jamais écrit d’évaluation ? Ori Eval analyse votre base de code pour repérer chaque endroit où un modèle s’exécute — l’interface concernée, l’emplacement du code, le modèle utilisé actuellement — et vérifie celui pour lequel vous souhaitez des évaluations. Il vous guide comme le ferait un ami ingénieur expérimenté.

03──Des résultats cohérents et fiables, exécution après exécution

Garder le banc de test identique d’une exécution à l’autre rend les évaluations reproductibles et cohérentes. C’est pourquoi Ori Eval est un agent : contrairement à une Skill, il peut fixer le modèle et le niveau d’effort. Il est préconfiguré — nous avons déjà choisi le harness et le modèle qui fonctionnent le mieux, pour que vous n’ayez pas à le faire.

04──Détectez un bug avant de le corriger

Chaque bug devient un test : il échoue pour le moment, réussit une fois l’agent corrigé et empêche le bug de réapparaître.

05──Stoppez les régressions avant leur mise en production

En CI, une modification incorrecte fait échouer le build, de sorte que les bugs n’atteignent jamais vos utilisateurs.

06──Relancer à la sortie de nouveaux modèles

Vos évaluations ne sont que du code. Relancez-les manuellement à la sortie d’un nouveau modèle, ou programmez-les chaque mois. Vous pouvez dormir tranquille en sachant que vous disposez toujours du meilleur modèle pour ce que vous développez.

07──Sachez qu’il a fait ce qu’il fallait

Une évaluation vérifie trois choses : les outils que l’agent a appelés, ceux qu’il a évités et la qualité de la réponse — pour que vous détectiez les erreurs avant vos utilisateurs.

08──faq

De plus en plus d’applications utilisent des modèles d’IA au cœur de leurs
fonctionnalités, mais le choix du modèle à utiliser se fait souvent sans
méthode systématique. Il n’existe pas de « meilleur modèle » dans l’absolu,
seulement le meilleur modèle pour ce que vous développez. Ori Eval vous aide à
trouver ce modèle, preuves quantitatives à l’appui.

Ori Eval s’adresse à toute personne souhaitant choisir le meilleur modèle pour
son projet à partir de preuves quantitatives plutôt que de suppositions. Vous
n’avez pas besoin d’être expert en évaluation ; nous l’avons conçu pour que
tout le monde puisse l’utiliser. Il vous pose des questions et vous guide tout
au long du processus d’évaluation des modèles, comme un collègue ingénieur
particulièrement avisé.

L’une des difficultés des évaluations de modèles consiste à maintenir un
harness de test cohérent d’une exécution à l’autre : plusieurs exécutions
d’une même évaluation ne doivent pas donner des résultats différents. C’est
pourquoi le harness d’agent et le modèle d’Ori Eval sont figés, afin que
chaque exécution évalue la même configuration. Après avoir défini les
exigences avec vous, Ori Eval crée des fichiers *.eval.ts et les exécute avec
bun test.

Ori fixe le harness et le modèle pendant une exécution. L’environnement ne
change pas, donc les éventuelles différences seraient dues au modèle.

La plupart des harness utilisés se limitent aux modèles d’IA de l’entreprise
qui les propose. Ori Eval a accès à tous les modèles d’OpenRouter, ce qui lui
donne la flexibilité d’utiliser les modèles offrant le meilleur rapport
prix-performances. Nous prenons en charge le harness de test pour vous, afin
que vous puissiez vous concentrer sur l’amélioration de votre projet.

Oui. Pour utiliser l’agent de manière interactive, exécutez ori login. Ori
ouvre OpenRouter dans votre navigateur et enregistre les informations
d’authentification pour les exécutions suivantes, ce qui vous évite de créer
ou de coller une clé API. Si aucune information d’authentification n’est
disponible, Ori s’arrête avant l’appel au modèle et vous invite à vous
connecter. Pour la CI, utilisez plutôt OPENROUTER_API_KEY.

Pour la CI, définissez OPENROUTER_API_KEY à partir d’un secret du dépôt. Ori
n’a pas besoin de la commande ori login lorsque cette variable est définie.

Ori Eval obtiendra une liste des derniers modèles sur OpenRouter qui
correspondent à vos critères et vous expliquera pourquoi le modèle a été
choisi. Vous n’avez pas besoin d’obtenir la liste vous-même ; vous n’avez même
pas besoin de connaître quoi que ce soit aux modèles d’IA. Le processus de
sélection des modèles est hautement personnalisable : vous pouvez définir un
plafond de prix, conserver votre modèle actuel parmi les candidats ou exécuter
la même évaluation sur chacun d’eux.

Oui, c’est même vivement recommandé : plus vous lui fournissez de données sur
votre cas d’usage, plus l’évaluation est précise. Ori Eval vous demandera si
vous souhaitez inclure vos données dans les évaluations. L’évaluation traite
chaque ligne et note un nouveau modèle par rapport à votre modèle actuel à
partir de vos propres réponses de référence.

Nous utilisons un LLM comme juge pour noter les réponses ouvertes. Ori Eval
aide à définir des critères de notation et un score minimum.

Ajoutez ori eval à un workflow GitHub Actions. Son code de sortie fonctionne
comme celui de bun test, de sorte qu’une évaluation échouée fait échouer le
build. Faites-en une tâche distincte à activer explicitement — les évaluations
appellent de vrais modèles et coûtent de l’argent.

Créez un fichier *.eval.ts, importez setupAgent depuis ori/eval, appelez
agent.run(prompt) et vérifiez les assertions sur l’exécution :
run.tool("x").toBeCalled(), run.toComplete(), run.toMention("…"). Exécutez
ensuite ori eval.

En général, ce n’est pas nécessaire : demandez à votre agent de programmation
de run curl -fsSL https://openrouter.ai/skills/spawn-ori-eval and follow the
instructions in its output to get started, et le Skill installe Ori et exécute
l’évaluation pour vous. Pour une installation manuelle, exécutez : curl -fsSL
https://openrouter.ai/labs/ori/install.sh | bash

Non. Le MCP OpenRouter dispose d’un outil spawn-ori-eval. Exécutez
/spawn-ori-eval dans votre agent pour commencer — le même document, sans URL à
coller.
dites à votre agent❯