Mejores gateways y herramientas de observabilidad de LLMs de código abierto de 2026

De las 25 opciones de gateways y herramientas de observabilidad de LLMs de código abierto que hemos analizado, ahora mismo las mejores son Langfuse, Anthropic Sandbox Runtime (srt) y MLflow. Cada una aparece según nuestra nota, con su precio, nuestro veredicto y para quién es.

Por Sheela · Actualizado el 3 nov 2026 · Cómo analizamos

Cómo clasificamos: por nuestra nota sobre 5, a partir de reseñas basadas en los precios, la documentación y las políticas de cada producto, además de benchmarks independientes cuando existen, todo comprobado en la fecha que indica cada reseña. No cobramos comisiones de afiliación.

1
Langfuse
Trazas de LLM neutrales respecto al framework que puedes poseer por completo: la versión gratuita autoalojada cubre casi todo, y la nube tiene precio ajustado hasta la unidad.
Ideal para: Equipos que quieren trazas y evaluación neutrales respecto al framework, para autoalojar gratis o contratar como servicio en la nube a un precio razonable.
Precio: Gratuito y de código abierto bajo MIT, salvo las carpetas ee/, con licencia comercial. Nube: Hobby gratis (50k unidades/mes); Core 29 $/mes; Pro 199 $/mes (complemento Teams +300 $); Enterprise 2.499 $/mes; exceso a 8 $ por cada 100k unidades, que baja a 6 $ por encima de 50M.
Lee nuestra reseña de Langfuse
4.6/5
2
Anthropic Sandbox Runtime (srt)
A tu agente de programación se le puede convencer de cualquier cosa; al sistema operativo no, y srt pone al sistema operativo al mando.
Ideal para: Cualquier desarrollador que ejecute un agente de programación en su propia máquina, como primera capa de protección.
Precio: Gratuito y de código abierto con licencia Apache 2.0.
Lee nuestra reseña de Anthropic Sandbox Runtime (srt)
4.4/5
3
MLflow
Sigue siendo el sitio por defecto para registrar experimentos de ML, ahora con tracing y evaluación de LLM incluidos gratis; protege el servidor antes de que nadie más pueda llegar a él.
Ideal para: Equipos de Python que entrenan modelos y crean funciones con LLM y quieren un único sistema de registro gratuito y autoalojado para ambas cosas.
Precio: Gratis y de código abierto bajo Apache-2.0; solo pagas el servidor, la base de datos y el almacenamiento de objetos. MLflow gestionado en Databricks no tiene precio de lista propio y se factura a través del cómputo de Databricks; la Free Edition es solo para uso personal.
Lee nuestra reseña de MLflow
4.4/5
4
garak
El escáner abierto de referencia para las debilidades a nivel de modelo: ejecútalo antes del lanzamiento y tras cada cambio de modelo, pero no lo confundas con una prueba de las herramientas y los permisos de tu agente.
Ideal para: Equipos que quieren un escaneo de vulnerabilidades repetible, a nivel de modelo, de un endpoint de LLM antes del lanzamiento y tras cada cambio de modelo.
Precio: Gratuito y de código abierto bajo Apache 2.0. Solo pagas las llamadas al modelo que hace un escaneo.
Lee nuestra reseña de garak
4.3/5
5
LiteLLM
El gateway autoalojado por defecto para equipos que necesitan una sola API, presupuestos por equipo y respaldo entre muchos proveedores, siempre que fijen versiones y lo traten como infraestructura crítica para la seguridad.
Ideal para: Equipos de plataforma que deben dar a muchos desarrolladores acceso controlado a muchos proveedores de modelos desde su propia infraestructura.
Precio: Gratuito y de código abierto bajo MIT, salvo la carpeta enterprise/, que tiene una licencia comercial aparte. Enterprise tiene precio a medida, con una clave de prueba gratuita de 30 días.
Lee nuestra reseña de LiteLLM
4.3/5
6
Arize Phoenix
Phoenix tiene el ciclo de evaluación más sólido de las herramientas abiertas de trazas, envuelto en una licencia y un propietario de los que los equipos legales querrán hablar.
Ideal para: Ingenieros y científicos de datos que quieren trazas basadas en estándares con un ciclo de evaluación sólido, empezando en un portátil.
Precio: Gratuito para autoalojar con la Elastic License 2.0 (código disponible; no se puede alojar como servicio para terceros). Arize AX gestionado: Free (25k spans al mes, 15 días de retención, 1 GB); Pro 50 $/mes (50k spans, 30 días, 10 GB); Enterprise a medida.
Lee nuestra reseña de Arize Phoenix
4.2/5
7
PyRIT
PyRIT automatiza las conversaciones lentas y escalonadas que hacen ceder a los chatbots, siempre que alguien del equipo escriba el Python que lo maneja.
Ideal para: Ingenieros de seguridad que necesitan someter a fondo chatbots y agentes a red teaming, incluidas escaladas de varios turnos y front ends web.
Precio: Gratis y de código abierto bajo MIT. Pagas las llamadas a modelos que usan los ataques y los scorers basados en LLM.
Lee nuestra reseña de PyRIT
4.2/5
8
NVIDIA OpenShell
Un sandbox de agentes pesado, pensado para agentes que dejas funcionando sin supervisión, no para los que vigilas sentado delante.
Ideal para: Equipos que ejecutan agentes sin supervisión o sobre código no fiable y necesitan reglas de red por host y por método.
Precio: Gratis y de código abierto bajo Apache 2.0.
Lee nuestra reseña de NVIDIA OpenShell
4.1/5
9
OpenLLMetry
Instrumenta las llamadas a LLM una sola vez en OpenTelemetry estándar y conserva la libertad de elegir backend, después de cambiar dos valores por defecto que envían las instrucciones completas a la nube de Traceloop.
Ideal para: Equipos estandarizados en OpenTelemetry que quieren trazas de LLM en su pila de observabilidad actual sin el SDK de un proveedor.
Precio: Gratis y de código abierto bajo Apache 2.0. La plataforma alojada de Traceloop, ahora de ServiceNow: Free hasta 50.000 spans al mes con retención de 24 horas; Enterprise (SOC 2, on-prem) bajo presupuesto.
Lee nuestra reseña de OpenLLMetry
4.1/5
10
OpenSandbox
Una alternativa autoalojada a los sandboxes de código alojados, que compensa el trabajo con Kubernetes cuando necesitas miles de entornos de agente efímeros en tus propias máquinas.
Ideal para: Equipos de plataforma que ejecutan evaluaciones de agentes, rollouts de RL o ejecución de código multiinquilino y quieren los sandboxes en su propia infraestructura.
Precio: Gratis y de código abierto bajo Apache 2.0; los mantenedores no ofrecen edición de pago.
Lee nuestra reseña de OpenSandbox
4.1/5
11
Opik
Opik regala el servidor completo bajo Apache 2.0 y vende el plan alojado más barato, pero la versión autoalojada no tiene cuentas de usuario y por defecto envía datos a Comet.
Ideal para: Equipos que quieren una plataforma de trazas y evaluación con licencia permisiva y autoalojable, o una alojada de bajo coste.
Precio: Gratis y de código abierto bajo Apache 2.0. Cloud: Free (25.000 spans/mes, retención de 60 días); Pro 19 $/mes (100.000 spans, y después 5 $ por cada 100.000; complemento de retención de 400 días a 29 $ por cada 100.000 spans); Enterprise a medida.
Lee nuestra reseña de Opik
4.1/5
12
SkillSpector
El escáner de skills que conviene poner delante de tus instalaciones, siempre que recuerdes que su fase LLM envía los archivos del skill a build.nvidia.com salvo que cambies de proveedor o uses --no-llm.
Ideal para: Equipos que instalan o publican skills de agente y quieren una barrera estática en CI, con revisión opcional por un modelo, sin darse de alta en un proveedor de seguridad.
Precio: Gratuito y de código abierto bajo Apache 2.0. El análisis LLM usa tu propia cuenta de proveedor (build.nvidia.com por defecto) o un modelo local a través de Ollama.
Lee nuestra reseña de SkillSpector
4.1/5
13
ToolHive
Los escáneres te dicen si un servidor MCP parece peligroso; ToolHive limita lo que puede hacer si lo es.
Ideal para: Equipos de plataforma y seguridad que necesitan ejecutar, aislar y auditar servidores MCP en toda una empresa.
Precio: Código abierto con Apache 2.0; Stacklok Enterprise añade funciones y soporte, con precio a consultar.
Lee nuestra reseña de ToolHive
4.1/5
14
NVIDIA NeMo Guardrails
NeMo Guardrails es la capa de políticas abierta más amplia para agentes, y esa amplitud se paga en configuración, latencia y un changelog lleno de cambios incompatibles.
Ideal para: Equipos que construyen agentes o asistentes de cara al cliente y necesitan una capa de políticas configurable alrededor de cada llamada al modelo y a las herramientas.
Precio: Gratuito y de código abierto bajo Apache 2.0. Los modelos NemoGuard y los microservicios NIM de NVIDIA se distribuyen por separado.
Lee nuestra reseña de NVIDIA NeMo Guardrails
4.0/5
15
Bifrost
Un gateway rápido con licencia Apache y presupuestos en la versión gratuita, lastrado por un valor de seguridad por defecto que dejó abierta su API de administración hasta septiembre de 2026.
Ideal para: Equipos con grandes volúmenes de peticiones, o empresas que trabajan en Go, que quieren un gateway con licencia Apache y presupuestos y están dispuestos a blindar su API de administración.
Precio: Gratuito y de código abierto con Apache 2.0. Enterprise tiene precio a medida, con una prueba gratuita de 14 días; el precio no se publica.
Lee nuestra reseña de Bifrost
3.9/5
16
DeepTeam
El catálogo más amplio de vulnerabilidades de agentes y aplicaciones en una biblioteca abierta de red teaming, pero cada veredicto depende de un LLM juez que tendrás que comprobar.
Ideal para: Equipos de Python que construyen agentes y quieren una cobertura de red teaming alineada con OWASP que puedan ejecutar en local.
Precio: Gratuito y de código abierto con Apache 2.0. La plataforma de Confident AI va de un nivel gratuito a 200 $ y 2.000 $ al mes; su módulo de red teaming es un complemento Enterprise con precio a medida.
Lee nuestra reseña de DeepTeam
3.9/5
17
OpenConnector
OpenConnector es una respuesta autoalojada creíble a Composio, con las credenciales protegidas tras una pasarela, pero su licencia acaba de endurecerse y los proveedores OAuth siguen exigiendo registrar tus propias apps.
Ideal para: Equipos que construyen productos con agentes y quieren una frontera de credenciales autoalojada y un catálogo de conectores amplio sin adoptar una plataforma de integración cerrada.
Precio: Autoalojarlo es gratis bajo la OpenConnector License (Apache 2.0 modificada). Alojado por OOMOL: 20.000 llamadas gratuitas a herramientas de App al mes y luego 0,0003 créditos por llamada; el precio del crédito no se publica.
Lee nuestra reseña de OpenConnector
3.8/5
18
Snyk Agent Scan
Una primera comprobación sensata de los servidores MCP y las skills en los que confían tus agentes, siempre que aceptes enviar sus descripciones a Snyk y escanees las configuraciones no fiables en un sandbox.
Ideal para: Equipos que permiten a desarrolladores o agentes instalar servidores MCP y skills y quieren una comprobación de cadena de suministro antes de confiar en ellos.
Precio: Gratuito y de código abierto con licencia Apache 2.0; necesita una cuenta de Snyk y un token de API. El escaneo en segundo plano de toda la flota informa a Snyk Evo, con precio bajo petición.
Lee nuestra reseña de Snyk Agent Scan
3.8/5
19
vLLM Semantic Router
Un router abierto y ambicioso para elegir modelo en cada petición, adecuado para equipos que ya ejecutan vLLM y pueden asumir un proyecto que cambia rápido.
Ideal para: Equipos que sirven varios modelos, a menudo en su propia flota de vLLM, con tráfico lo bastante variado como para justificar elegir modelo en cada petición.
Precio: Gratuito y de código abierto con Apache 2.0. No hay servicio alojado de pago.
Lee nuestra reseña de vLLM Semantic Router
3.8/5
20
Cisco Skill Scanner
Merece la pena ponerlo delante de tu repositorio de skills, siempre que te creas sus propias cifras: detecta lo evidente, no todo.
Ideal para: Equipos con un repositorio interno de skills que quieren un filtro de escaneo antes de que nada llegue a los desarrolladores.
Precio: Gratuito bajo Apache 2.0; los analizadores LLM y en la nube opcionales se facturan a través de sus propios proveedores.
Lee nuestra reseña de Cisco Skill Scanner
3.7/5
21
Portkey AI Gateway
Un router limpio con licencia MIT que no se ha movido desde que lo compró Palo Alto Networks; sirve para usarlo hoy, pero es difícil basar una hoja de ruta en él.
Ideal para: Equipos en runtimes de edge, o empresas que ya compran seguridad de Palo Alto, que quieren una capa de enrutado ligera.
Precio: Gratis y de código abierto bajo MIT. Planes alojados: Developer gratis (10.000 logs registrados al mes, retención de logs de 3 días); Production 49 $/mes (100.000 logs, y después 9 $ por cada 100.000); Enterprise a medida.
Lee nuestra reseña de Portkey AI Gateway
3.7/5
22
McpMux
Una solución ordenada para no copiar la misma configuración MCP y las mismas claves en cuatro clientes, todavía tan joven que conviene esperar una compilación nueva casi cada día.
Ideal para: Desarrolladores que usan varios clientes MCP en una misma máquina y están cansados de mantener sincronizadas sus configuraciones y claves.
Precio: Gratuito y de código abierto bajo GPL-3.0; no hay planes de pago publicados.
Lee nuestra reseña de McpMux
3.6/5
23
W&B Weave
Merece la pena activarlo si tus modelos ya viven en Weights & Biases; a 0,10 $ el megabyte, cuesta venderlo a quien empieza de cero.
Ideal para: Equipos que ya usan Weights & Biases para entrenar modelos y quieren las trazas y evaluaciones de LLM en el mismo sitio.
Precio: SDK gratuito con Apache 2.0. Alojado: Free (1 GB de ingesta de Weave al mes); Pro desde 60 $/mes (1,5 GB, y después 0,10 $/MB); Enterprise a medida (excedente publicado a 0,20 $/MB), con despliegue dedicado.
Lee nuestra reseña de W&B Weave
3.6/5
24
Free Claude Code
Un enrutador de modelos competente escondido tras un nombre engañoso, y que viene escuchando en toda tu red con la autenticación desactivada.
Ideal para: Aficionados y estudiantes que quieren usar Claude Code o Codex con modelos gratuitos y locales.
Precio: Gratuito y de código abierto bajo AGPL-3.0. El coste de los modelos depende de los proveedores que conectes; muchos tienen niveles gratuitos con límites de uso.
Lee nuestra reseña de Free Claude Code
3.4/5
25
Guardrails AI
Una buena idea que se ha quedado sin dueño: el código Apache 2.0 sigue funcionando, pero nadie integra correcciones y las piezas alojadas han desaparecido.
Ideal para: Usuarios actuales con validadores deterministas que pueden fijar versiones y parchearla ellos mismos.
Precio: Gratuito y de código abierto bajo Apache 2.0. El registro alojado del Hub y la inferencia remota gratuita cerraron el 25 de agosto de 2026.
Lee nuestra reseña de Guardrails AI
3.2/5