Was ist OpenLIT?
OpenLIT besteht aus zwei Teilen: einem SDK, das LLM-Anbieter, Agenten-Frameworks und Vektordatenbanken automatisch als standardmäßige OpenTelemetry-Spans instrumentiert, und einer selbst gehosteten Plattform, die sie in ClickHouse speichert und Traces, Kosten und Dashboards zeigt. Ein Aufruf von openlit.init() in Python oder TypeScript startet die Instrumentierung; außerdem gibt es ein Go-SDK. Der eigene Empfänger der Plattform lauscht auf den Ports 4317 und 4318 auf OTLP, sodass kein separater Collector nötig ist, und dieselben Spans können stattdessen auch an Grafana, Datadog oder jedes andere OTLP-Backend gehen.
Rund um das Tracing kommen LLM-as-a-judge- und programmatische Evaluierungen hinzu, Guardrails gegen Prompt Injection und gesperrte Themen, ein versionierter Prompt Hub, ein Vault für API-Schlüssel, ein Playground für Modellvergleiche namens OpenGround, eine Rule Engine und ein GPU-Collector für Karten von NVIDIA, AMD und Intel. Eine CLI hängt sich in Claude Code, Codex, Cursor und OpenCode ein, um Sitzungen von Coding-Agenten ohne Codeänderung zu tracen.
Die Community Edition steht unter Apache 2.0 und hat keine Nutzungsgrenzen. Eigene Rollen, Audit-Logs, Ereignis-Alerts, Benachrichtigungs-Connectoren und die GPU-Flottenseite stecken in einer separat gebauten Enterprise Edition, lizenziert pro Organisation zu unveröffentlichten Preisen. Eine gehostete Cloud ist als demnächst verfügbar angekündigt. Plattformversion 2.2.0 erschien am 19. November 2026.
Lohnt sich OpenLIT?
OpenLITs Argument lautet, dass LLM-Telemetrie vom ersten Span an gewöhnliches OpenTelemetry sein sollte. Das SDK erzeugt die gen_ai.*-Semantikkonventionen, der Server nimmt OTLP direkt an, und nichts hindert dich daran, dieselben Daten an Grafana oder Datadog zu schicken. Teams mit bestehender OpenTelemetry-Pipeline oder eigenen Modellen auf GPUs bekommen hier mehr ab Werk als bei den meisten Konkurrenten: GPU-Auslastung, Speicher, Leistungsaufnahme und Temperatur stehen neben den Traces, die sie beeinflussen.
Im naheliegenden Vergleich mit Langfuse heißt der Tausch Breite gegen Reife. Beide lassen sich kostenlos auf ClickHouse selbst hosten, und beide behalten Audit-Logs und eigene Rollen einer bezahlten Edition vor. Langfuse hat rund 36.500 GitHub-Sterne gegenüber 3.093 bei OpenLIT, eine gehostete Cloud mit veröffentlichten Preisen pro Einheit und tiefere Werkzeuge für Datasets, Annotation und Experimente. OpenLIT hat noch keine Cloud, nennt keinen Enterprise-Preis, und seine eigene Vergleichsseite räumt Langfuses Vorsprung bei menschlicher Annotation und Evaluierungsoberfläche ein. Was OpenLIT dazugibt, sind GPU-Monitoring, Guardrails, ein Secrets-Vault und Tracing von Coding-Agenten in derselben Installation.
Der Haken: Die Quick-Start-Voreinstellungen sind nicht sicher, wenn man sie offen erreichbar macht. Docker Compose veröffentlicht ClickHouse auf den Ports 9000 und 8123 mit dem Passwort OPENLIT, das Dashboard öffnet mit user@openlit.io und openlituser, und der OTLP-Empfänger speichert Spans, die ohne API-Schlüssel gesendet werden. Anonyme Nutzungsmetriken gehen an PostHog, bis TELEMETRY_ENABLED=false gesetzt ist. Im Februar 2026 veröffentlichte das Projekt eine kritische Sicherheitsmeldung zu einem GitHub-Actions-Workflow, der die eigenen CI-Secrets offenlegte; das betraf die Build-Pipeline, nicht installierte Instanzen.
Unser Fazit: OpenLIT passt zu einem Team, das ohnehin in OpenTelemetry denkt und eigene GPUs betreibt; ein Team, das vor allem Prompt-Experimente und menschliche Prüfung will, findet Langfuse ausgereifter.
Wo es sich lohnt
Ein MLOps-Engineer, der Llama-Modelle mit vLLM auf acht GPUs bereitstellt
Langsame oder teure Anfragen mit dem verknüpfen, was die Hardware gerade tat
Lass den GPU-Collector von OpenLIT auf jedem Knoten laufen und openlit.init() in der Serving-App; Auslastung, Speicher und Temperatur landen in ClickHouse neben den Request-Traces. Keine Lizenzkosten; die GPU-Flottenseite selbst braucht Enterprise.
Eine Engineering-Managerin in einem Unternehmen mit 30 Entwicklern, das Claude Code und Cursor nutzt
Sehen, was Coding-Agenten an Tokens verbrauchen und welche Dateien sie anfassen
Installiere die openlit-CLI und führe openlit coding install --vendor=all auf jedem Rechner aus, gerichtet auf eine selbst gehostete Instanz. Sitzungen, Tool-Aufrufe, Tokens und Kosten erscheinen im Coding-Agents-Dashboard, ohne die Konfiguration eines Agenten zu ändern.
Ein Plattformteam, das bereits Traces an Grafana Tempo schickt
LLM-spezifische Ansichten ergänzen, ohne die bestehende Pipeline zu ersetzen
Behalte den OpenTelemetry Collector und verteile OTLP sowohl an Tempo als auch an OpenLITs Empfänger auf Port 4318. OpenLIT ergänzt Ansichten zu Kosten, Tokens und Evaluierungen; Tempo behält das Gesamtbild des Dienstes.
Bevor du dich festlegst
- Einrichtung
- git clone und docker compose up -d starten OpenLIT, ClickHouse und NATS; ein Helm-Chart deckt Kubernetes ab. Bevor du es erreichbar machst, ändere das ClickHouse-Passwort, die NATS-Passwörter und den Standard-Login des Dashboards, und sende Spans mit einem API-Schlüssel.
- Integrationen
- Über 70 automatische Instrumentierungen für LLM-Anbieter, Agenten-Frameworks und Vektordatenbanken; OTLP-Export an Grafana, Datadog, New Relic, SigNoz oder jedes OTLP-Backend; Anmeldung über Google, GitHub, Microsoft und Okta in der kostenlosen Edition.
- Daten und Datenschutz
- Traces bleiben in deinem ClickHouse. Anonyme Produktnutzungsmetriken (ohne Prompts oder Span-Inhalte) gehen standardmäßig an PostHog; TELEMETRY_ENABLED=false schaltet sie ab, einen Schalter in der App gibt es nicht.
- Kosten im großen Maßstab
- Keine Lizenzgebühr und keine Kosten pro Trace in der Community Edition; die Kosten liegen im Betrieb von ClickHouse für dein Trace-Volumen. Enterprise-Preise sind nicht veröffentlicht.
- Grenzen
- 104 offene Issues; gehostete Cloud noch nicht gestartet; ohne API-Schlüssel gesendete Spans werden gespeichert, aber nicht evaluiert; Python-SDK 1.45.0 und Plattform 2.2.0 werden getrennt versioniert.
Was gut ist
- Durchgehend OpenTelemetry-nativ, mit eingebautem OTLP-Empfänger
- GPU-Monitoring für NVIDIA, AMD und Intel neben den Traces
- Guardrails, Vault und Tracing von Coding-Agenten in der kostenlosen Edition
- SDKs für Python, TypeScript und Go; über 70 automatisch instrumentierte Integrationen
Was nicht
- Standardpasswort für ClickHouse und Standard-Dashboard-Login im Quick Start
- Keine gehostete Cloud und keine veröffentlichten Enterprise-Preise
- Kleinere Community als Langfuse oder Phoenix
- Audit-Logs und eigene Rollen nur in Enterprise
Am besten für
Plattformteams, die bereits OpenTelemetry nutzen, besonders solche mit eigenen Modellen auf GPUs, und LLM-Tracing, Evals und Hardware-Metriken in einem selbst gehosteten Stack wollen.
Alternativen zu OpenLIT
OpenLIT: häufige Fragen
- Lohnt sich OpenLIT?
- Durch und durch OpenTelemetry, mit dem GPU-Monitoring, das Langfuse fehlt, aber mit kleinerer Community und Quick-Start-Voreinstellungen, die geändert werden müssen, bevor jemand anderes darauf zugreifen kann. Wir bewerten es mit 3.9 von 5.
- Was kostet OpenLIT?
- Community Edition kostenlos unter Apache 2.0 ohne Nutzungsgrenzen. Enterprise (RBAC, Audit-Logs, Ereignis-Alerts, Premium-Connectoren) mit Preis pro Organisation auf Anfrage; gehostete Cloud noch nicht verfügbar.
- Welche Nachteile hat OpenLIT?
- Standardpasswort für ClickHouse und Standard-Dashboard-Login im Quick Start; Keine gehostete Cloud und keine veröffentlichten Enterprise-Preise; Kleinere Community als Langfuse oder Phoenix; Audit-Logs und eigene Rollen nur in Enterprise.
- Für wen eignet sich OpenLIT?
- Plattformteams, die bereits OpenTelemetry nutzen, besonders solche mit eigenen Modellen auf GPUs, und LLM-Tracing, Evals und Hardware-Metriken in einem selbst gehosteten Stack wollen.
- Was kostet OpenLIT für ein Team oder im Produktivbetrieb?
- Keine Lizenzgebühr und keine Kosten pro Trace in der Community Edition; die Kosten liegen im Betrieb von ClickHouse für dein Trace-Volumen. Enterprise-Preise sind nicht veröffentlicht.
- Ist OpenLIT sicher für Firmendaten?
- Traces bleiben in deinem ClickHouse. Anonyme Produktnutzungsmetriken (ohne Prompts oder Span-Inhalte) gehen standardmäßig an PostHog; TELEMETRY_ENABLED=false schaltet sie ab, einen Schalter in der App gibt es nicht.
- Was sind die besten Alternativen zu OpenLIT?
- Die nächsten Alternativen, die wir getestet haben, sind Langfuse, Arize Phoenix und OpenLLMetry.
Antworten geprüft am 20. Nov. 2026.