Was ist LangSmith?
LangSmith ist LangChains kommerzielle Plattform zum Beobachten und Verbessern von LLM-Anwendungen. Sie zeichnet Traces jedes Modellaufrufs, jedes Tool-Aufrufs und jedes Agentenschritts auf und ergänzt Dashboards, Alerts, Online-Evaluierungen, Annotation Queues für menschliches Feedback, Datasets, Experimente und Prompt-Verwaltung. Außerdem stellt sie mit LangGraph gebaute Agenten bereit.
Sie funktioniert ab Werk mit LangChain und LangGraph und laut Dokumentation über SDKs oder Integrationen mit OpenAI, Anthropic, CrewAI, dem Vercel AI SDK und Pydantic AI. Sie nimmt OpenTelemetry-Traces an, sodass auch andere instrumentierte Apps Daten senden können.
Der kostenlose Developer-Plan umfasst einen Platz mit 5.000 Basis-Traces im Monat. Plus kostet 39 $ pro Platz und Monat mit 10.000 Basis-Traces, danach nach Verbrauch. Basis-Traces werden 14 Tage aufbewahrt, erweiterte Traces 180 Tage; für neue SaaS-Traces wurde das am 14. September 2026 von 400 Tagen gekürzt. Self-Hosting und hybride Bereitstellung gibt es nur in Enterprise.
Lohnt sich LangSmith?
Wenn ein KI-Agent nach einem Dutzend Schritten etwas falsch macht, musst du jeden Schritt sehen, um zu wissen, welcher kaputt war.
LangSmith zeichnet diese Schritte auf, die es Traces nennt, und lässt dich Agenten vor dem Release gegen gespeicherte Beispiele testen. Es ist die stärkste Wahl, wenn du auf LangGraph baust, und das schwächste Angebot, wenn nicht. Seine Traces verstehen die Struktur von LangGraph nativ, die Werkzeuge für Evaluierung und Annotation sind ausgereift, und es kann dieselben Agenten bereitstellen, die es beobachtet, was keines der Open-Source-Tracing-Tools kann, die wir behandeln. Dank OpenTelemetry-Unterstützung ist LangSmith nicht mehr an LangChain-Code gebunden.
Der Haken: Die Preise arbeiten gegen wachsende Teams und große Volumen zugleich. Plus berechnet 39 $ für jeden Platz, abgerechnet am 1. des Monats, ohne Gutschrift für Plätze, die mitten im Monat entfernt werden, während Langfuse und Opik nach Nutzung abrechnen. Trace-Überschreitungen laufen nach Verbrauch: Die Preisseite nennt inzwischen 0,005 LSU, also einen halben Cent, pro zusätzlichem Trace, eine Million zusätzliche Traces im Monat kosten also etwa 5.000 $. Einen Trace auf erweiterte Aufbewahrung hochzustufen kostet mehr, zu einem Satz, den die Seite nicht zeigt. Rechne also einen realistischen Monat in LangChains Rechner durch, bevor du dich festlegst. Basis-Traces werden 14 Tage aufbewahrt und erweiterte 180, für neue SaaS-Traces ab dem 14. September 2026 herabgesetzt von 400; alles, was du länger brauchst, musst du in ein Dataset kopieren.
Agenten darauf zu betreiben, hat einen eigenen Zähler. Die Abrechnung von Deployments wurde am 1. Oktober 2026 auf nutzungsbasierte Preise in LangChain Standard Units umgestellt, zu je 1 $. Du zahlst für die angeforderte vCPU und den angeforderten Speicher, nicht für das, was du nutzt: Ein untätiges Dedicated Small-Deployment auf GCP kostet etwa 0,53 LSU pro Stunde, rund 390 $ im Monat, bevor irgendein Verkehr anfällt. Plus enthält ein kostenloses Small Serverless-Deployment. Die neuere Funktion Engine, die Traces prüft und Korrekturen vorschlägt, kostet etwa 7 bis 45 LSU pro Lauf und braucht deshalb ein eigenes Budget.
Wohin deine Prompts gehen, ist die andere Trennlinie. Laut LangChains Dokumentation ist der Cloud-Dienst konform mit SOC 2 Type II, HIPAA und DSGVO, bietet Regionen in den USA und der EU und trainiert nicht mit Kunden-Traces. Darfst du Prompts und Antworten überhaupt nicht an Dritte senden, musst du Enterprise für die hybriden oder selbst gehosteten Optionen kaufen, während sich Langfuse, Phoenix und Opik kostenlos selbst hosten lassen.
Unser Fazit: LangSmith ist die Hausmarke des LangGraph-Ladens. Deployments, der Agent-Server und die tiefsten Trace-Ansichten setzen alle weiterhin LangGraph voraus. Es zahlt sich also aus, wenn du darauf baust, und ein nutzungsbasiert bepreistes Open-Source-Tool ist der bessere Kauf, wenn nicht.
Wo es sich lohnt
Ein Team mit vier Engineers, das einen Support-Agenten auf LangGraph ausliefert
Fehler in mehrstufigen Agentenläufen debuggen und Releases an Evaluierungen knüpfen
Plus für 39 $ pro Platz ergibt 156 $ im Monat mit 10.000 enthaltenen Basis-Traces; Traces zeigen jeden Graph-Knoten und Tool-Aufruf, und Datasets machen aus schlechten Läufen Regressionstests. Das enthaltene kostenlose Small Serverless-Deployment kann den Agenten selbst hosten.
Eine ML-Plattformleiterin bei einem Fintech, das Agenten auf mehreren Frameworks betreibt
Traces aus CrewAI, dem Vercel AI SDK und eigenem Code zentral sammeln
Schicke OpenTelemetry-Traces an LangSmiths EU-Region. Plane Überschreitungen zu einem halben Cent pro Trace ein und kopiere prüfungsrelevante Läufe in Datasets, bevor die 180-Tage-Grenze sie löscht.
Ein Engineering-Leiter bei einem Gesundheitsunternehmen
Einen Agenten tracen, der Patientennachrichten bearbeitet
Der Cloud-Dienst wird als HIPAA-konform geführt, ein BAA wird in der öffentlichen Dokumentation aber nicht erwähnt, kläre das also mit dem Vertrieb; dürfen Prompts das Unternehmen nicht verlassen, passt nur die selbst gehostete oder hybride Option von Enterprise.
Bevor du dich festlegst
- Einrichtung
- Setze einen API-Schlüssel und eine Umgebungsvariable, und Apps mit LangChain oder LangGraph senden Traces; andere Stacks nutzen die SDKs oder OpenTelemetry.
- Integrationen
- LangChain, LangGraph, OpenAI, Anthropic, CrewAI, das Vercel AI SDK und Pydantic AI über SDKs oder Integrationen, dazu jede mit OpenTelemetry instrumentierte App.
- Daten und Datenschutz
- SOC 2 Type II, HIPAA und DSGVO laut Dokumentation; Cloud-Regionen in den USA oder der EU; kein Training mit Kundendaten. Selbst gehostete und hybride Bereitstellung nur in Enterprise.
- Kosten im großen Maßstab
- Ein Team mit zehn Plätzen auf Plus zahlt vor Trace-Überschreitungen 390 $ im Monat für Plätze; ein untätiges Dedicated Small-Deployment kostet zusätzlich etwa 390 $ im Monat.
- Grenzen
- Basis-Traces werden nach 14 Tagen gelöscht, erweiterte nach 180; der Developer-Plan ist auf 5.000 Traces im Monat begrenzt, bis eine Karte hinterlegt wird.
Was gut ist
- Tiefstes Tracing und Debugging für LangGraph-Agenten
- Ausgereifte Evaluierung, Datasets und Annotation Queues
- Nimmt OpenTelemetry-Traces aus jedem Framework an
- SOC 2 Type II, HIPAA und DSGVO, mit Regionen in den USA und der EU
- Kann die Agenten bereitstellen, die es beobachtet
Was nicht
- 39 $ pro Platz in Plus, ohne Gutschrift für mitten im Monat entfernte Plätze
- Überschreitungen zu einem halben Cent pro Trace summieren sich bei Volumen schnell
- Self-Hosting nur in Enterprise
- Aufbewahrung erweiterter Traces auf 180 Tage gekürzt
- Dedizierte Deployments berechnen auch ungenutzte Kapazität
Am besten für
Teams, die Produktionsagenten auf LangChain oder LangGraph bauen und gehostetes Tracing, Evaluierung und Deployment von einem Anbieter wollen.
Alternativen zu LangSmith
LangSmith: häufige Fragen
- Lohnt sich LangSmith?
- LangSmith bietet das tiefste und ausgereifteste Tracing und Evaluieren für LangGraph-Agenten, verkauft pro Platz zu einem Preis, der kleine Teams mit großen Budgets belohnt. Wir bewerten es mit 4.2 von 5.
- Was kostet LangSmith?
- Developer kostenlos (1 Platz, 5.000 Basis-Traces pro Monat). Plus 39 $ pro Platz und Monat (10.000 Basis-Traces, danach nach Verbrauch; ein kleines Serverless-Deployment). Enterprise individuell, mit hybriden oder selbst gehosteten Optionen. Basis-Traces werden 14 Tage aufbewahrt, erweiterte Traces 180 Tage.
- Welche Nachteile hat LangSmith?
- 39 $ pro Platz in Plus, ohne Gutschrift für mitten im Monat entfernte Plätze; Überschreitungen zu einem halben Cent pro Trace summieren sich bei Volumen schnell; Self-Hosting nur in Enterprise; Aufbewahrung erweiterter Traces auf 180 Tage gekürzt; Dedizierte Deployments berechnen auch ungenutzte Kapazität.
- Für wen eignet sich LangSmith?
- Teams, die Produktionsagenten auf LangChain oder LangGraph bauen und gehostetes Tracing, Evaluierung und Deployment von einem Anbieter wollen.
- Was kostet LangSmith für ein Team oder im Produktivbetrieb?
- Ein Team mit zehn Plätzen auf Plus zahlt vor Trace-Überschreitungen 390 $ im Monat für Plätze; ein untätiges Dedicated Small-Deployment kostet zusätzlich etwa 390 $ im Monat.
- Ist LangSmith sicher für Firmendaten?
- SOC 2 Type II, HIPAA und DSGVO laut Dokumentation; Cloud-Regionen in den USA oder der EU; kein Training mit Kundendaten. Selbst gehostete und hybride Bereitstellung nur in Enterprise.
- Was sind die besten Alternativen zu LangSmith?
- Die nächsten Alternativen, die wir getestet haben, sind Braintrust und Arize AX.
Antworten geprüft am 26. Okt. 2026.