Qu’est-ce que Datadog LLM Observability ?
Datadog LLM Observability, que Datadog vend désormais sous le nom d'Agent Observability, enregistre chaque étape d'une application LLM ou d'un agent sous forme de trace : prompts, récupération, appels d'outils, latence, tokens et coût. Sur ces traces, il exécute des évaluations LLM-as-a-judge gérées et personnalisées, détecte les injections de prompt et les données sensibles, regroupe le trafic par thèmes, et propose des datasets, des expériences, un playground de prompts et des files d'annotation pour la revue humaine.
Les applications sont instrumentées avec le SDK Python ou Node.js, le traceur Java, OpenTelemetry ou une API HTTP, et le SDK capture les appels OpenAI, Anthropic, Bedrock, LangChain, CrewAI et LiteLLM sans modifier le code. Il peut être acheté seul, mais sa particularité est de relier la trace d'un agent aux services, à l'infrastructure et aux sessions d'utilisateurs réels déjà présents dans Datadog.
La facturation ne compte que les spans LLM, c'est-à-dire les appels individuels à un fournisseur de modèles ; les étapes d'outils, de récupération et de workflow sont gratuites. L'offre Free couvre jusqu'à 40 000 spans LLM par mois avec 15 jours de conservation. Pro commence à 160 $ par mois avec engagement annuel (200 $ au mois, 240 $ à la demande) pour 100 000 spans, puis de 3,50 $ à 5 $ par tranche de 10 000.
Combien coûte Datadog LLM Observability ?
| Offre | Prix | Ce qui est inclus |
|---|---|---|
| Free | Free | Jusqu'à 40K spans LLM/mois, 15 jours de conservation, évaluations incluses |
| Pro | From $160/month annual | 200 $ au mois ou 240 $ à la demande pour 100K spans LLM ; ensuite de 3,50 $ à 5 $ par tranche de 10K spans LLM |
Gratuit jusqu'à 40K spans LLM/mois avec 15 jours de conservation. Pro à partir de 160 $/mois en annuel, 200 $ au mois ou 240 $ à la demande, pour 100K spans LLM ; ensuite 3,50 $ (annuel), 4,20 $ (au mois) ou 5 $ (à la demande) par tranche de 10K spans LLM. Options de conservation affichées à 6,50 $, 8 $ et 9 $ par tranche de 10K spans par mois pour 30, 60 et 90 jours. Seuls les spans LLM sont facturés.
Datadog LLM Observability vaut-il le coup ?
Quand un client dit que votre chatbot a donné une mauvaise réponse et l'a fait lentement, la cause peut être le prompt, le modèle, une base de données lente ou un serveur surchargé. La plupart des outils de traçage IA ne voient que les deux premiers.
L'outil de Datadog enregistre chaque étape de votre agent et la place sur la même chronologie que le reste de vos systèmes, si bien que la réponse lente et la base de données surchargée apparaissent côte à côte. Si vos ingénieurs utilisent déjà Datadog pour leurs serveurs et leurs applications, ce lien vient sans configuration supplémentaire, ce qu'aucun des outils de traçage spécialisés que nous couvrons ne peut égaler.
Sa facturation est facile à prévoir. Vous ne payez que les appels au modèle, pas chaque appel d'outil ou étape de recherche autour. Un agent qui fait cinq appels au modèle par conversation utilise 500 000 spans pour 100 000 conversations. Avec une offre Pro annuelle, un million de spans par mois coûte 160 $ plus 90 tranches de 10 000 à 3,50 $, soit environ 475 $ ; le même mois à la demande coûte environ 690 $. Les évaluations sont incluses dans le prix des spans, vous ne payez donc pas deux fois pour noter le trafic.
Le hic : ce que vous économisez sur Datadog, vous pouvez le dépenser ailleurs. Les évaluations par LLM juge tournent sur votre propre compte OpenAI, Anthropic, Bedrock ou Vertex, si bien que chaque trace évaluée est une facture de modèle distincte ; la documentation suggère un échantillonnage, par exemple de 10 %, pour la contenir. Les traces ne sont conservées que 15 jours sauf si vous achetez une conservation plus longue, affichée de 6,50 $ à 9 $ par tranche de 10 000 spans par mois pour 30 à 90 jours, et il faut demander au support pour la modifier. Les meilleurs prix exigent un engagement annuel. Datadog liste ses certifications dans un Trust Center dont l'accès se demande, et le produit n'est pas disponible sur ses sites destinés au gouvernement américain.
Notre avis : c'est l'outil de traçage que l'on choisit pour son équipe d'exploitation autant que pour son équipe IA. Une startup qui ne paie pas déjà Datadog tirera plus de Langfuse ou de Braintrust ; une entreprise qui le paie a intérêt à garder les traces de ses agents à côté de tout le reste.
Là où il fait la différence
Une équipe SRE dans une entreprise d'e-commerce de 300 personnes déjà sur Datadog APM
Déterminer si les réponses lentes du chatbot viennent du modèle ou de nos propres services
Activez le SDK dans le service du chatbot et ses traces partagent un identifiant de trace avec les spans APM existants, si bien qu'une réponse lente mène directement à l'appel de base de données ou d'API qui la cause. Pro à 160 $ par mois en annuel couvre les 100 000 premiers appels au modèle.
Une équipe de deux personnes qui construit un assistant RH interne
Voir ce que demandent les employés et repérer les mauvaises réponses avant le lancement
Les 40 000 spans LLM par mois de l'offre Free couvrent un pilote ; le regroupement par thèmes montre ce que les gens demandent, et un LLM juge échantillonné sur votre propre clé OpenAI signale les réponses faibles. Les traces disparaissent après 15 jours, enregistrez donc des exemples dans un dataset.
Un responsable plateforme dans une fintech qui traite des messages de clients
Garder les numéros de compte et les données personnelles hors des traces stockées
Sensitive Data Scanner est inclus, avec 1 GB d'analyse par tranche de 10 000 spans, et les processeurs de spans du SDK peuvent masquer ou supprimer des données avant qu'elles ne quittent l'application. L'accès aux traces de chaque application IA peut être limité par équipe.
Avant de vous engager
- Mise en route
- Installez le SDK Python ou Node.js (ou utilisez le traceur Java), définissez une clé API Datadog et un nom d'application ; les appels OpenAI, Anthropic, Bedrock, LangChain, CrewAI et LiteLLM sont tracés sans modifier le code. Selon Datadog, la plupart des équipes voient leurs traces en quelques minutes.
- Intégrations
- OpenAI, Anthropic, Gemini, Vertex AI et Bedrock ; LangChain, CrewAI, Pydantic AI, LiteLLM et Strands Agents ; conventions GenAI d'OpenTelemetry ; API HTTP ; API d'export pour des évaluateurs externes ; NeMo ; accès CLI et MCP.
- Données et confidentialité
- Traces conservées 15 jours par défaut, ou 30, 60 ou 90 avec une option ; datasets et prompts conservés 3 ans ; métriques 15 mois. Sensitive Data Scanner et contrôles d'accès par application inclus. Les certifications se trouvent dans un Trust Center accessible sur demande, et la documentation ne dit pas si les données de traces servent à l'entraînement.
- Coût à grande échelle
- Un million de spans LLM par mois revient à environ 475 $ avec une offre Pro annuelle, 578 $ au mois ou 690 $ à la demande, avant la conservation prolongée et la facture de tokens du modèle juge.
- Limites
- L'offre Free ne permet pas d'acheter d'options de conservation ; les résultats d'expériences sont conservés 15 jours sur les offres gratuite et à la demande ; le produit n'est pas proposé sur app.ddog-gov.com ni sur us2.ddog-gov.com.
Les points forts
- Traces d'agents reliées à l'APM, à l'infrastructure et aux sessions d'utilisateurs réels de Datadog
- Facture uniquement les appels aux modèles ; les étapes d'outils et de récupération sont gratuites
- Offre gratuite de 40 000 spans LLM par mois
- Évaluations, expériences, datasets et annotation dans toutes les offres
- Analyse des données sensibles incluse
Les points faibles
- Les évaluations par LLM juge tournent sur votre propre compte et votre propre facture de fournisseur
- Conservation des traces de 15 jours par défaut ; plus long coûte plus cher
- Les prix les plus bas exigent un engagement annuel
- Les changements de conservation passent par le support, pas par l'interface
- Indisponible sur les sites de Datadog pour le gouvernement américain
Idéal pour
Les équipes d'ingénierie qui utilisent déjà Datadog et veulent les traces de leurs agents à côté de la surveillance de leurs services et de leur infrastructure.
Alternatives à Datadog LLM Observability
Datadog LLM Observability : questions fréquentes
- Datadog LLM Observability vaut-il le coup ?
- Si votre entreprise vit déjà dans Datadog, c'est l'endroit logique pour surveiller vos agents, et sa facturation par appel au modèle est plus équitable qu'il n'y paraît. Nous lui donnons 4.0 sur 5.
- Combien coûte Datadog LLM Observability ?
- Gratuit jusqu'à 40K spans LLM/mois avec 15 jours de conservation. Pro à partir de 160 $/mois en annuel, 200 $ au mois ou 240 $ à la demande, pour 100K spans LLM ; ensuite 3,50 $ (annuel), 4,20 $ (au mois) ou 5 $ (à la demande) par tranche de 10K spans LLM. Options de conservation affichées à 6,50 $, 8 $ et 9 $ par tranche de 10K spans par mois pour 30, 60 et 90 jours. Seuls les spans LLM sont facturés.
- Quels sont les inconvénients de Datadog LLM Observability ?
- Les évaluations par LLM juge tournent sur votre propre compte et votre propre facture de fournisseur; conservation des traces de 15 jours par défaut ; plus long coûte plus cher; les prix les plus bas exigent un engagement annuel; les changements de conservation passent par le support, pas par l'interface; indisponible sur les sites de Datadog pour le gouvernement américain.
- À qui s’adresse Datadog LLM Observability ?
- Les équipes d'ingénierie qui utilisent déjà Datadog et veulent les traces de leurs agents à côté de la surveillance de leurs services et de leur infrastructure.
- Combien coûte Datadog LLM Observability pour une équipe ou en production ?
- Un million de spans LLM par mois revient à environ 475 $ avec une offre Pro annuelle, 578 $ au mois ou 690 $ à la demande, avant la conservation prolongée et la facture de tokens du modèle juge.
- Datadog LLM Observability est-il sûr pour les données de l’entreprise ?
- Traces conservées 15 jours par défaut, ou 30, 60 ou 90 avec une option ; datasets et prompts conservés 3 ans ; métriques 15 mois. Sensitive Data Scanner et contrôles d'accès par application inclus. Les certifications se trouvent dans un Trust Center accessible sur demande, et la documentation ne dit pas si les données de traces servent à l'entraînement.
- Quelles sont les meilleures alternatives à Datadog LLM Observability ?
- Les alternatives les plus proches que nous avons testées sont LangSmith, Braintrust et Arize AX.
Réponses vérifiées le 2 nov. 2026.
Vous éditez Datadog LLM Observability ? Affichez cette note sur votre site
