Le classement des outils open source d'évaluation de LLM en 2026
Parmi les 7 options que nous avons testées, promptfoo, Inspect et LM Evaluation Harness arrivent en tête. Chacune est classée selon notre note, avec son prix, notre verdict et le profil auquel elle convient.
Par Sheela · Mis à jour le 2 nov. 2026 · Notre méthode
Notre classement : selon notre note sur 5, à partir d’avis fondés sur les prix, la documentation et les politiques de chaque produit, ainsi que sur des benchmarks indépendants lorsqu’ils existent, chacun vérifié à la date indiquée dans l’avis. Nous ne touchons aucune commission d’affiliation.
- 1
promptfoo transforme les tests de régression LLM et les scans de red-team en un fichier YAML et une commande CI ; son nouveau propriétaire est la partie à surveiller.
Idéal pour : Les équipes qui livrent des applis LLM et veulent des tests de régression et des scans de sécurité en CI.
Prix : CLI gratuit et open source (MIT) ; l'usage Community inclut le red teaming jusqu'à 10 000 sondes par mois. Enterprise (cloud managé) et On-Premise sont tarifés sur devis.
Lire notre avis sur promptfoo4.5/5 - 2
Inspect est le harnais partagé des tests de sécurité IA gouvernementaux et indépendants ; les équipes produit qui vérifient des prompts en CI le trouveront plus framework qu'elles n'en ont besoin.
Idéal pour : Les chercheurs et équipes de sécurité qui font tourner des évaluations d'agents et de capacité.
Prix : Gratuit et open source sous la licence MIT.
Lire notre avis sur Inspect4.4/5 - 3
L'étalon commun pour les benchmarks de modèles, et le mauvais instrument pour juger une application construite par-dessus un.
Idéal pour : Les chercheurs et entraîneurs de modèles qui comparent les modèles sur des benchmarks standards.
Prix : Gratuit et open source sous la licence MIT.
Lire notre avis sur LM Evaluation Harness4.4/5 - 4
Une bibliothèque d'évaluation capable façon pytest dont le vrai coût est la facture du modèle juge, avec une plateforme à 200 $ par mois au bout de l'entonnoir.
Idéal pour : Les équipes Python qui ajoutent des vérifications de qualité automatisées aux applications LLM.
Prix : Gratuit et open source sous la licence Apache 2.0. La plateforme hébergée de Confident AI est un produit payant séparé.
Lire notre avis sur DeepEval4.2/5 - 5
e2e est le premier framework de test agentique qui traite les appels de modèle comme quelque chose à supprimer, et son cache de rejeu est ce qui rend les tests en anglais simple abordables en CI.
Idéal pour : Les équipes produit qui veulent des tests de bout en bout lisibles sur web et mobile sans maintenir chaque sélecteur à la main.
Prix : Gratuit sous Apache-2.0 ; vous payez votre propre modèle. La plateforme hébergée de TesterArmy est séparée : Free (5 exécutions), Hobby 99 $/mois (250 exécutions), Startup 299 $/mois (1 000 exécutions), Enterprise sur mesure.
Lire notre avis sur e2e4.0/5 - 6
Une bibliothèque d'évaluation solide, native OpenTelemetry, avec un propriétaire d'entreprise derrière elle, freinée par une petite communauté et une attraction vers Snowflake.
Idéal pour : Les équipes Python qui évaluent des applications RAG ou des agents, en particulier celles qui stockent déjà leurs données dans Snowflake.
Prix : Gratuit et open source sous licence MIT. Vous payez les appels au modèle juge que fait chaque feedback function ; AI Observability, le service hébergé de Snowflake, est un produit distinct facturé via Snowflake.
Lire notre avis sur TruLens3.9/5 - 7
Ses noms de métriques sont devenus le vocabulaire de l'évaluation RAG, mais le code a été laissé sans mainteneur.
Idéal pour : Les équipes avec une suite Ragas existante qui peuvent épingler une version et porter leurs propres correctifs.
Prix : Gratuit et open source sous la licence Apache 2.0. Vous payez les appels d'API du modèle juge que chaque métrique fait.
Lire notre avis sur Ragas3.4/5
Sources
La principale source officielle de chaque avis classé ; chaque avis donne la liste complète de ses sources.
- promptfoo: promptfoo on GitHub
- Inspect: Inspect on GitHub
- LM Evaluation Harness: LM Evaluation Harness on GitHub
- DeepEval: DeepEval on GitHub
- e2e: tester-army/e2e on GitHub
- TruLens: truera/trulens on GitHub
- Ragas: vibrantlabsai/ragas on GitHub
Autres classements
- Classement des outils open source pour exécuter des LLM en local
- Classement des frameworks d'agents IA open source
- Classement des outils RAG open source
- Classement des outils open source de fine-tuning de LLM
- Classement des applications de chat IA open source
- Classement des agents de code IA open source
- Classement des outils IA open source pour l'image et la vidéo
- Classement des passerelles LLM et outils d'observabilité open source
- Classement des plugins Claude Code et skills d'agents
- Classement des outils open source pour agents de code
- Classement des cours gratuits pour apprendre l'IA