¿Qué es Datadog LLM Observability?
Datadog LLM Observability, que Datadog vende ahora como Agent Observability, registra cada paso de una aplicación o agente LLM como una traza: prompts, recuperación, llamadas a herramientas, latencia, tokens y coste. Sobre las trazas ejecuta evaluaciones gestionadas y personalizadas con LLM como juez, busca inyección de prompts y datos sensibles, agrupa el tráfico por temas y ofrece datasets, experimentos, un playground de prompts y colas de anotación para revisión humana.
Las aplicaciones se instrumentan con el SDK de Python o Node.js, el tracer de Java, OpenTelemetry o una API HTTP, y el SDK captura llamadas a OpenAI, Anthropic, Bedrock, LangChain, CrewAI y LiteLLM sin cambios de código. Se puede comprar por separado, pero lo que lo distingue es que enlaza la traza de un agente con los servicios, la infraestructura y las sesiones de usuarios reales que ya están en Datadog.
La facturación solo cuenta los spans de LLM, es decir, las llamadas individuales a un proveedor de modelos; los pasos de herramientas, recuperación y flujo de trabajo son gratuitos. El nivel Free cubre hasta 40.000 spans de LLM al mes con 15 días de retención. Pro empieza en 160 $ al mes con compromiso anual (200 $ mes a mes, 240 $ bajo demanda) por 100.000 spans, y después de 3,50 $ a 5 $ por cada 10.000.
¿Cuánto cuesta Datadog LLM Observability?
| Plan | Precio | Qué incluye |
|---|---|---|
| Free | Free | Hasta 40K spans de LLM al mes, 15 días de retención, evaluaciones incluidas |
| Pro | From $160/month annual | 200 $ mes a mes o 240 $ bajo demanda por 100K spans de LLM; después de 3,50 $ a 5 $ por cada 10K spans de LLM |
Free hasta 40K spans de LLM al mes con 15 días de retención. Pro desde 160 $/mes anual, 200 $ mes a mes o 240 $ bajo demanda, por 100K spans de LLM; después 3,50 $ (anual), 4,20 $ (mes a mes) o 5 $ (bajo demanda) por cada 10K spans de LLM. Complementos de retención a 6,50 $, 8 $ y 9 $ por cada 10K spans al mes para 30, 60 y 90 días. Solo se facturan los spans de LLM.
¿Merece la pena Datadog LLM Observability?
Cuando un cliente dice que tu chatbot dio una respuesta equivocada y encima tardó, la causa puede ser el prompt, el modelo, una base de datos lenta o un servidor saturado. La mayoría de las herramientas de trazas para IA solo ven las dos primeras.
La herramienta de Datadog registra cada paso que da tu agente y lo coloca en la misma línea temporal que el resto de tus sistemas, de modo que la respuesta lenta y la base de datos sobrecargada aparecen una al lado de la otra. Si tus ingenieros ya usan Datadog para servidores y aplicaciones, ese vínculo llega sin configuración adicional, algo que ninguna de las herramientas especializadas de trazas que analizamos puede igualar.
La forma de cobrar es fácil de prever. Solo pagas por las llamadas al modelo, no por cada llamada a herramientas o paso de búsqueda que las rodea. Un agente que hace cinco llamadas al modelo por conversación usa 500.000 spans para 100.000 conversaciones. En un plan Pro anual, un millón de spans al mes cuesta 160 $ más 90 bloques de 10.000 a 3,50 $, unos 475 $; el mismo mes bajo demanda cuesta unos 690 $. Las evaluaciones están incluidas en el precio del span, así que no te cobran dos veces por puntuar el tráfico.
La pega: lo que ahorras en Datadog lo puedes gastar en otra parte. Las evaluaciones con LLM como juez se ejecutan en tu propia cuenta de OpenAI, Anthropic, Bedrock o Vertex, así que cada traza evaluada es una factura de modelo aparte; la documentación sugiere muestrear, por ejemplo un 10%, para contenerla. Las trazas solo se guardan 15 días salvo que compres más retención, a entre 6,50 $ y 9 $ por cada 10.000 spans al mes para 30 a 90 días, y para cambiarla hay que pedirlo a soporte. Los mejores precios exigen compromiso anual. Datadog enumera sus certificaciones en un Trust Center al que hay que pedir acceso, y el producto no está disponible en sus sitios para el Gobierno de EE. UU.
Nuestra opinión: es la herramienta de trazas que eliges tanto para tu equipo de operaciones como para tu equipo de IA. Una startup que no paga ya Datadog sacará más de Langfuse o Braintrust; a una empresa que sí lo paga le conviene tener las trazas de los agentes junto a todo lo demás.
Dónde se gana su sitio
Un equipo de SRE en una empresa de comercio electrónico de 300 personas que ya usa Datadog APM
Averiguar si las respuestas lentas del chatbot vienen del modelo o de nuestros propios servicios
Activa el SDK en el servicio del chatbot y sus trazas comparten ID de traza con los spans de APM existentes, así que una respuesta lenta lleva directamente a la llamada a la base de datos o a la API que hay detrás. Pro, a 160 $ al mes con pago anual, cubre las primeras 100.000 llamadas al modelo.
Un equipo de dos personas que crea un asistente interno de recursos humanos
Ver qué preguntan los empleados y detectar malas respuestas antes del lanzamiento
Los 40.000 spans de LLM al mes del nivel Free cubren un piloto; la agrupación por temas muestra lo que pregunta la gente, y un juez LLM con muestreo sobre tu propia clave de OpenAI marca las respuestas flojas. Las trazas desaparecen a los 15 días, así que guarda ejemplos en un dataset.
Una responsable de plataforma en una fintech que gestiona mensajes de clientes
Mantener los números de cuenta y los datos personales fuera de las trazas almacenadas
Sensitive Data Scanner está incluido, con 1 GB de escaneo por cada 10.000 spans, y los procesadores de spans del SDK pueden ocultar o descartar datos antes de que salgan de la aplicación. El acceso a las trazas de cada aplicación de IA puede limitarse por equipo.
Antes de decidirte
- Puesta en marcha
- Instala el SDK de Python o Node.js (o usa el tracer de Java) y configura una clave de API de Datadog y el nombre de la aplicación; las llamadas a OpenAI, Anthropic, Bedrock, LangChain, CrewAI y LiteLLM se trazan sin cambios de código. Datadog dice que la mayoría de los equipos ven trazas en minutos.
- Integraciones
- OpenAI, Anthropic, Gemini, Vertex AI y Bedrock; LangChain, CrewAI, Pydantic AI, LiteLLM y Strands Agents; convenciones GenAI de OpenTelemetry; API HTTP; API de exportación para evaluadores externos; NeMo; acceso por CLI y MCP.
- Datos y privacidad
- Trazas guardadas 15 días por defecto, o 30, 60 o 90 con un complemento; datasets y prompts guardados 3 años; métricas 15 meses. Sensitive Data Scanner y controles de acceso por aplicación incluidos. Las certificaciones están en un Trust Center que requiere solicitar acceso, y la documentación no dice si los datos de las trazas se usan para entrenar.
- Coste a escala
- Un millón de spans de LLM al mes cuesta unos 475 $ en un plan Pro anual, 578 $ mes a mes o 690 $ bajo demanda, antes de la retención ampliada y de la factura de tokens del propio modelo juez.
- Límites
- El nivel Free no puede comprar complementos de retención; los resultados de los experimentos se guardan 15 días en los planes gratuito y bajo demanda; el producto no se ofrece en app.ddog-gov.com ni en us2.ddog-gov.com.
Lo bueno
- Trazas de agentes enlazadas con Datadog APM, la infraestructura y las sesiones de usuarios reales
- Solo cobra por las llamadas al modelo; los pasos de herramientas y recuperación son gratuitos
- Nivel gratuito de 40.000 spans de LLM al mes
- Evaluaciones, experimentos, datasets y anotación en todos los niveles
- Escaneo de datos sensibles incluido
Lo malo
- Las evaluaciones con LLM como juez se ejecutan y se facturan en tu propia cuenta del proveedor
- Retención de trazas de 15 días por defecto; más tiempo cuesta extra
- Los precios más bajos exigen compromiso anual
- Los cambios de retención pasan por soporte, no por la interfaz
- No disponible en los sitios de Datadog para el Gobierno de EE. UU.
Ideal para
Equipos de ingeniería que ya usan Datadog y quieren las trazas de sus agentes junto a la monitorización de servicios e infraestructura.
Alternativas a Datadog LLM Observability
Datadog LLM Observability: preguntas frecuentes
- ¿Merece la pena Datadog LLM Observability?
- Si tu empresa ya vive en Datadog, este es el lugar sensato para vigilar tus agentes, y su facturación por llamada al modelo es más justa de lo que parece a primera vista. Le damos un 4.0 sobre 5.
- ¿Cuánto cuesta Datadog LLM Observability?
- Free hasta 40K spans de LLM al mes con 15 días de retención. Pro desde 160 $/mes anual, 200 $ mes a mes o 240 $ bajo demanda, por 100K spans de LLM; después 3,50 $ (anual), 4,20 $ (mes a mes) o 5 $ (bajo demanda) por cada 10K spans de LLM. Complementos de retención a 6,50 $, 8 $ y 9 $ por cada 10K spans al mes para 30, 60 y 90 días. Solo se facturan los spans de LLM.
- ¿Qué inconvenientes tiene Datadog LLM Observability?
- Las evaluaciones con LLM como juez se ejecutan y se facturan en tu propia cuenta del proveedor; retención de trazas de 15 días por defecto; más tiempo cuesta extra; los precios más bajos exigen compromiso anual; los cambios de retención pasan por soporte, no por la interfaz; no disponible en los sitios de Datadog para el Gobierno de EE. UU.
- ¿Para quién es Datadog LLM Observability?
- Equipos de ingeniería que ya usan Datadog y quieren las trazas de sus agentes junto a la monitorización de servicios e infraestructura.
- ¿Cuánto cuesta Datadog LLM Observability para un equipo o en producción?
- Un millón de spans de LLM al mes cuesta unos 475 $ en un plan Pro anual, 578 $ mes a mes o 690 $ bajo demanda, antes de la retención ampliada y de la factura de tokens del propio modelo juez.
- ¿Es Datadog LLM Observability seguro para los datos de la empresa?
- Trazas guardadas 15 días por defecto, o 30, 60 o 90 con un complemento; datasets y prompts guardados 3 años; métricas 15 meses. Sensitive Data Scanner y controles de acceso por aplicación incluidos. Las certificaciones están en un Trust Center que requiere solicitar acceso, y la documentación no dice si los datos de las trazas se usan para entrenar.
- ¿Cuáles son las mejores alternativas a Datadog LLM Observability?
- Las alternativas más cercanas que hemos analizado son LangSmith, Braintrust y Arize AX.
Respuestas comprobadas el 2 nov 2026.
¿Desarrollas Datadog LLM Observability? Muestra esta nota en tu web
