Qu’est-ce que OpenLIT ?
OpenLIT recouvre deux choses : un SDK qui instrumente automatiquement les fournisseurs de LLM, les frameworks d'agents et les bases vectorielles sous forme de spans OpenTelemetry standard, et une plateforme auto-hébergée qui les stocke dans ClickHouse et affiche traces, coûts et tableaux de bord. Un appel à openlit.init() en Python ou TypeScript lance l'instrumentation ; il existe aussi un SDK Go. Le récepteur intégré de la plateforme écoute l'OTLP sur les ports 4317 et 4318, si bien qu'aucun Collector séparé n'est nécessaire, et les mêmes spans peuvent partir vers Grafana, Datadog ou tout autre backend OTLP.
Autour du traçage, il ajoute des évaluations LLM-as-a-judge et programmatiques, des guardrails contre le prompt injection et les sujets interdits, un Prompt Hub versionné, un Vault pour les clés d'API, un espace de comparaison de modèles côte à côte appelé OpenGround, un moteur de règles et un collecteur GPU pour les cartes NVIDIA, AMD et Intel. Une CLI se branche sur Claude Code, Codex, Cursor et OpenCode pour tracer les sessions d'agents de code sans modifier le code.
L'édition community est sous Apache 2.0, sans limite d'usage. Les rôles personnalisés, les journaux d'audit, les alertes d'événements, les connecteurs de notification et la page de flotte GPU relèvent d'une édition Enterprise compilée à part, sous licence par organisation, à des prix non publiés. Un cloud hébergé est annoncé pour bientôt. La version 2.2.0 de la plateforme est sortie le 19 novembre 2026.
OpenLIT vaut-il le coup ?
L'argument d'OpenLIT est que la télémétrie LLM doit être de l'OpenTelemetry ordinaire dès le premier span. Son SDK émet les conventions sémantiques gen_ai.*, son serveur ingère directement l'OTLP, et rien n'empêche d'envoyer les mêmes données vers Grafana ou Datadog. Les équipes dotées d'un pipeline OpenTelemetry existant, ou qui font tourner leurs propres modèles sur GPU, obtiennent ici davantage d'emblée qu'avec la plupart des concurrents : utilisation, mémoire, consommation et température des GPU s'affichent à côté des traces qu'elles influencent.
Face à Langfuse, la comparaison évidente, l'échange se fait entre étendue et maturité. Les deux s'auto-hébergent gratuitement sur ClickHouse, et les deux réservent les journaux d'audit et les rôles personnalisés à une édition payante. Langfuse compte environ 36 500 étoiles GitHub contre 3 093 pour OpenLIT, un cloud hébergé aux prix unitaires publiés et des outils plus poussés pour les datasets, l'annotation et les expériences. OpenLIT n'a pas encore de cloud, ne publie pas de prix Enterprise, et sa propre page de comparaison concède l'avance de Langfuse sur l'annotation humaine et l'interface d'évaluation. Ce qu'OpenLIT ajoute, c'est le suivi GPU, des guardrails, un Vault de secrets et le traçage des agents de code dans la même installation.
Le hic : les réglages par défaut du quick start ne sont pas sûrs une fois exposés. Docker Compose publie ClickHouse sur les ports 9000 et 8123 avec le mot de passe OPENLIT, le tableau de bord s'ouvre avec user@openlit.io et openlituser, et le récepteur OTLP stocke les spans envoyés sans clé d'API. Des métriques d'usage anonymes partent vers PostHog tant que TELEMETRY_ENABLED=false n'est pas défini. En février 2026, le projet a publié un avis critique sur un workflow GitHub Actions qui exposait ses propres secrets de CI ; cela concernait le pipeline de build, pas les instances déployées.
Notre avis : OpenLIT convient à une équipe qui pense déjà en OpenTelemetry et gère ses propres GPU ; une équipe qui veut surtout des expériences sur les prompts et une revue humaine trouvera Langfuse plus abouti.
Là où il fait la différence
Un ingénieur MLOps qui sert des modèles Llama avec vLLM sur huit GPU
Relier les requêtes lentes ou coûteuses à ce que faisait le matériel au même moment
Faites tourner le collecteur GPU d'OpenLIT sur chaque nœud et openlit.init() dans l'application de service ; utilisation, mémoire et température arrivent dans ClickHouse à côté des traces des requêtes. Aucun coût de licence ; la page de flotte GPU elle-même exige Enterprise.
Une responsable d'ingénierie dans une entreprise de 30 développeurs qui utilise Claude Code et Cursor
Voir ce que les agents de code dépensent en tokens et quels fichiers ils modifient
Installez la CLI openlit et lancez openlit coding install --vendor=all sur chaque poste, pointée vers une instance auto-hébergée. Sessions, appels d'outils, tokens et coûts apparaissent dans le tableau de bord Coding Agents sans toucher à la configuration des agents.
Une équipe plateforme qui envoie déjà ses traces à Grafana Tempo
Ajouter des vues spécifiques aux LLM sans remplacer le pipeline existant
Conservez l'OpenTelemetry Collector et répartissez l'OTLP vers Tempo et vers le récepteur d'OpenLIT sur le port 4318. OpenLIT ajoute des vues de coûts, de tokens et d'évaluations ; Tempo garde la vue d'ensemble du service.
Avant de vous engager
- Mise en route
- git clone puis docker compose up -d lancent OpenLIT, ClickHouse et NATS ; un chart Helm couvre Kubernetes. Avant toute exposition, changez le mot de passe ClickHouse, les mots de passe NATS et les identifiants par défaut du tableau de bord, et envoyez les spans avec une clé d'API.
- Intégrations
- Plus de 70 auto-instrumentations pour fournisseurs de LLM, frameworks d'agents et bases vectorielles ; export OTLP vers Grafana, Datadog, New Relic, SigNoz ou tout backend OTLP ; connexion Google, GitHub, Microsoft et Okta dans l'édition gratuite.
- Données et confidentialité
- Les traces restent dans votre ClickHouse. Les métriques anonymes d'usage du produit (sans prompts ni contenu de spans) partent vers PostHog par défaut ; TELEMETRY_ENABLED=false les coupe, sans bouton dans l'application.
- Coût à grande échelle
- Ni frais de licence ni coût par trace pour l'édition community ; le coût est l'exploitation de ClickHouse à votre volume de traces. Le prix Enterprise n'est pas publié.
- Limites
- 104 tickets ouverts ; cloud hébergé pas encore lancé ; les spans envoyés sans clé d'API sont stockés mais non évalués ; le SDK Python 1.45.0 et la plateforme 2.2.0 ont des versions distinctes.
Les points forts
- Natif OpenTelemetry de bout en bout, avec récepteur OTLP intégré
- Suivi GPU NVIDIA, AMD et Intel à côté des traces
- Guardrails, Vault et traçage des agents de code dans l'édition gratuite
- SDK Python, TypeScript et Go ; plus de 70 intégrations auto-instrumentées
Les points faibles
- Mot de passe ClickHouse et identifiants du tableau de bord par défaut dans le quick start
- Pas de cloud hébergé ni de prix Enterprise publiés
- Communauté plus réduite que Langfuse ou Phoenix
- Journaux d'audit et rôles personnalisés réservés à Enterprise
Idéal pour
Les équipes plateforme déjà sur OpenTelemetry, surtout celles qui servent leurs propres modèles sur GPU, et qui veulent traçage LLM, évaluations et métriques matérielles dans une seule pile auto-hébergée.
Alternatives à OpenLIT
OpenLIT : questions fréquentes
- OpenLIT vaut-il le coup ?
- De l'OpenTelemetry de bout en bout, avec le suivi GPU qui manque à Langfuse, mais une communauté plus réduite et des réglages par défaut du quick start à changer avant que quiconque d'autre puisse y accéder. Nous lui donnons 3.9 sur 5.
- Combien coûte OpenLIT ?
- Édition community gratuite sous Apache 2.0, sans limite d'usage. Enterprise (RBAC, journaux d'audit, alertes d'événements, connecteurs premium) facturée par organisation sur demande ; cloud hébergé pas encore disponible.
- Quels sont les inconvénients de OpenLIT ?
- Mot de passe ClickHouse et identifiants du tableau de bord par défaut dans le quick start; pas de cloud hébergé ni de prix Enterprise publiés; communauté plus réduite que Langfuse ou Phoenix; journaux d'audit et rôles personnalisés réservés à Enterprise.
- À qui s’adresse OpenLIT ?
- Les équipes plateforme déjà sur OpenTelemetry, surtout celles qui servent leurs propres modèles sur GPU, et qui veulent traçage LLM, évaluations et métriques matérielles dans une seule pile auto-hébergée.
- Combien coûte OpenLIT pour une équipe ou en production ?
- Ni frais de licence ni coût par trace pour l'édition community ; le coût est l'exploitation de ClickHouse à votre volume de traces. Le prix Enterprise n'est pas publié.
- OpenLIT est-il sûr pour les données de l’entreprise ?
- Les traces restent dans votre ClickHouse. Les métriques anonymes d'usage du produit (sans prompts ni contenu de spans) partent vers PostHog par défaut ; TELEMETRY_ENABLED=false les coupe, sans bouton dans l'application.
- Quelles sont les meilleures alternatives à OpenLIT ?
- Les alternatives les plus proches que nous avons testées sont Langfuse, Arize Phoenix et OpenLLMetry.
Réponses vérifiées le 20 nov. 2026.