O que é OpenLLMetry?
O OpenLLMetry é um conjunto de extensões do OpenTelemetry que registra chamadas a LLMs como spans padrão. Ele instrumenta provedores de modelos como OpenAI e Azure OpenAI, Anthropic, AWS Bedrock e SageMaker, Google Gemini e Vertex AI, Cohere, Mistral, Groq, Ollama e Hugging Face, além de bancos de dados vetoriais como Chroma, Pinecone, Qdrant, Milvus e Weaviate, frameworks de agentes como LangGraph, CrewAI e o OpenAI Agents SDK, e MCP. O Traceloop SDK o configura em uma linha; equipes que já usam OpenTelemetry podem adicionar as instrumentações individuais.
Ele não é um backend. Os traces vão para qualquer destino OpenTelemetry, e o README lista 24 destinos testados, incluindo Datadog, Grafana, Honeycomb, New Relic, Dynatrace, Splunk, Sentry, Braintrust e um OpenTelemetry Collector simples. O projeto diz que suas convenções semânticas para spans de LLM agora fazem parte do OpenTelemetry. Um repositório separado cobre JavaScript e TypeScript.
É construído pela Traceloop e licenciado sob Apache 2.0; a versão 0.62.4 foi lançada em 29 de setembro de 2026. A ServiceNow anunciou a aquisição da Traceloop em março de 2026 e a descreveu como concluída em 5 de maio, incorporando o produto hospedado ao seu AI Control Tower.
OpenLLMetry vale a pena?
O OpenLLMetry resolve o problema do aprisionamento na camada certa. Em vez de adotar o SDK de um fornecedor, você emite spans OpenTelemetry padrão e os encaminha à ferramenta de observabilidade que já paga, ou ao Langfuse, Braintrust ou Phoenix, e muda de ideia depois sem tocar no código da aplicação. Ele tem cerca de 7.500 estrelas no GitHub, mas essa contagem subestima seu alcance: frameworks como Haystack e LlamaIndex o documentam como sua rota de tracing.
Os padrões merecem um olhar mais atento do que a configuração de uma linha sugere. Chamado sem exporter, o Traceloop.init() envia traces para api.traceloop.com e gera uma chave de API automaticamente, e a documentação de privacidade diz que prompts, respostas e embeddings são gravados nos atributos dos spans por padrão. Uma equipe que o instala para alimentar o Datadog pode, portanto, enviar prompts de clientes a um terceiro no primeiro dia. Definir TRACELOOP_BASE_URL ou um exporter personalizado, e TRACELOOP_TRACE_CONTENT=false onde o conteúdo for sensível, resolve as duas coisas. O próprio SDK deixou de coletar telemetria a partir da v0.49.2.
Sozinho, ele não armazena nem mostra nada: sem visualizador de traces, sem painel de custos, sem evals. Backends que entendem LLMs, como Langfuse ou Phoenix, aproveitam os spans muito melhor do que uma ferramenta APM genérica, que pode mostrar um prompt como um atributo opaco. As convenções concorrentes OpenInference, da Arize, coexistem: em 16 de junho de 2026 o OpenTelemetry aceitou o código de instrumentação do OpenInference como doação, mas não suas convenções, e os backends variam em qual leem melhor.
A propriedade é a questão de longo prazo. A ServiceNow comprou a Traceloop para o seu AI Control Tower, e o plano gratuito hospedado guarda só 24 horas de dados, o que soa como um funil para o Enterprise. As instrumentações são Apache 2.0 e portáteis, então o risco realista é uma manutenção mais lenta à medida que os provedores mudam suas APIs, não uma mudança de licença.
Onde ele se destaca
Uma equipe de SRE em um varejista que já paga pelo Datadog
Ver latência, erros e contagem de tokens dos LLMs ao lado do resto da pilha
pip install traceloop-sdk, chame Traceloop.init() com o exporter OTLP apontado para o agente do Datadog e defina TRACELOOP_TRACE_CONTENT=false se os prompts contiverem dados de clientes. Nenhuma conta de fornecedor nova; o Datadog cobra os spans extras nas tarifas de sempre.
Um engenheiro de plataforma padronizando o tracing em cinco serviços de LLM
Instrumentar uma vez e manter a opção de trocar de backend
Adicione só os pacotes opentelemetry-instrumentation-openai e -anthropic a uma configuração OpenTelemetry existente, exporte para um Collector e distribua para o Langfuse, para depurar LLMs, e para o Grafana, para os painéis.
Um head de engenharia em uma startup de 20 pessoas
Ter observabilidade de LLMs sem pagar ainda por uma plataforma
O plano Free hospedado da Traceloop cobre 50.000 spans por mês, com cada chamada a LLM ou banco vetorial contando como um, e retenção de 24 horas; um Langfuse ou Phoenix auto-hospedado por trás do OpenLLMetry guarda um histórico mais longo pelo custo de um servidor pequeno.
Antes de decidir
- Configuração
- pip install traceloop-sdk e uma linha Traceloop.init(), ou adicione pacotes opentelemetry-instrumentation-* individuais a uma configuração OpenTelemetry existente; os traces aparecem em minutos depois que um exporter é definido.
- Integrações
- 16 provedores de modelos, 7 bancos de dados vetoriais, frameworks como LangChain, LangGraph, LlamaIndex, CrewAI, Agno e OpenAI Agents, MCP e 24 destinos testados; existe uma versão em JavaScript.
- Dados e privacidade
- Apache 2.0. Prompts, respostas e embeddings são capturados por padrão (TRACELOOP_TRACE_CONTENT=false desativa), e o SDK exporta para api.traceloop.com a menos que você configure outro endpoint. Sem telemetria do SDK desde a v0.49.2; nenhum alerta de segurança publicado no GitHub.
- Custo em escala
- A biblioteca é gratuita; o custo é o backend. O Traceloop Free cobre 50.000 spans por mês com retenção de 24 horas, o Enterprise é sob cotação; com Datadog, Honeycomb ou um Langfuse auto-hospedado, você paga as tarifas de spans ou de hospedagem deles.
- Limites
- Cerca de 800 issues e pull requests abertos, instrumentações que quebram quando os SDKs dos provedores mudam e atributos de spans que ferramentas APM genéricas exibem mal em comparação com backends específicos para LLMs.
O que é bom
- Spans OpenTelemetry padrão, sem aprisionamento a fornecedor
- Instrumenta a maioria dos provedores, bancos de dados vetoriais e frameworks de agentes
- 24 backends testados
- Sem telemetria do SDK desde a v0.49.2
O que não é
- Os padrões enviam traces, com o conteúdo dos prompts, à nuvem da Traceloop
- Não é um backend; precisa de um destino
- Convenções semânticas concorrentes com o OpenInference
- O dono agora é a ServiceNow
Ideal para
Equipes padronizadas em OpenTelemetry que querem traces de LLM na sua pilha de observabilidade existente sem o SDK de um fornecedor.
Alternativas ao OpenLLMetry
OpenLLMetry: perguntas frequentes
- OpenLLMetry vale a pena?
- Instrumente as chamadas a LLMs uma vez em OpenTelemetry padrão e mantenha a liberdade de escolher o backend, depois de mudar antes dois padrões que enviam os prompts completos à nuvem da Traceloop. Damos nota 4.1 de 5.
- Quanto custa OpenLLMetry?
- Gratuito e de código aberto sob Apache 2.0. A plataforma hospedada da Traceloop, agora da ServiceNow: Free até 50.000 spans por mês com retenção de 24 horas; Enterprise (SOC 2, on-prem) sob cotação.
- Quais são as desvantagens de OpenLLMetry?
- Os padrões enviam traces, com o conteúdo dos prompts, à nuvem da Traceloop; não é um backend; precisa de um destino; convenções semânticas concorrentes com o OpenInference; o dono agora é a ServiceNow.
- Para quem OpenLLMetry é indicado?
- Equipes padronizadas em OpenTelemetry que querem traces de LLM na sua pilha de observabilidade existente sem o SDK de um fornecedor.
- Quanto custa OpenLLMetry para uma equipe ou em produção?
- A biblioteca é gratuita; o custo é o backend. O Traceloop Free cobre 50.000 spans por mês com retenção de 24 horas, o Enterprise é sob cotação; com Datadog, Honeycomb ou um Langfuse auto-hospedado, você paga as tarifas de spans ou de hospedagem deles.
- OpenLLMetry é seguro para dados da empresa?
- Apache 2.0. Prompts, respostas e embeddings são capturados por padrão (TRACELOOP_TRACE_CONTENT=false desativa), e o SDK exporta para api.traceloop.com a menos que você configure outro endpoint. Sem telemetria do SDK desde a v0.49.2; nenhum alerta de segurança publicado no GitHub.
- Quais são as melhores alternativas ao OpenLLMetry?
- As alternativas mais próximas que analisamos são Langfuse, Arize Phoenix e Opik.
Respostas verificadas em 26 de out. de 2026.