Enrutamiento y gateways de LLMs

Qué tener en cuenta

Las preguntas que distinguen las opciones, por orden de importancia.

1. 01

   ¿Necesitas un router?

   Si un servicio llama a uno o dos proveedores, los SDKs de los propios proveedores con un envoltorio de reintentos son más sencillos y eliminan un salto de red. Un gateway se amortiza cuando varios equipos comparten claves de proveedores, finanzas quiere el gasto por equipo o necesitas conmutación automática entre proveedores. El enrutamiento por significado en cada petición solo compensa cuando el tráfico es lo bastante grande y variado como para que mandar las peticiones fáciles a un modelo más barato cambie la factura, y tienes evaluaciones que demuestren que la calidad se mantiene.

2. 02

   Router alojado, gateway propio o modelo de decisión

   Un router alojado (OpenRouter) da una sola clave y una sola factura para cientos de modelos sin nada que ejecutar, pero cada petición pasa por un tercero y pagas una comisión sobre los créditos. Un gateway alojado por ti (LiteLLM, Bifrost, Portkey, Claude Code Router) mantiene el tráfico y las claves en tu red y añade presupuestos y registros, pero lo operas tú. Un router basado en un modelo de decisión (vLLM Semantic Router, o un modelo de decisión como Jev, pplx-decider o d3 llamado desde tu código) lee cada petición y elige el modelo; es una capa sobre un gateway, no un sustituto.

3. 03

   Alternativas, reintentos y cobertura de proveedores

   Comprueba que el router puede reintentar ante límites de uso y tiempos de espera agotados y recurrir a otro proveedor u otro modelo, no solo a otra clave. Las afirmaciones de cobertura (más de 100 proveedores, más de 1.600 modelos) importan menos que si tus proveedores concretos, incluidos Azure, Bedrock y Vertex, están soportados con sus particularidades: llamadas a herramientas, streaming, cabeceras de caché de prompts y entradas de visión. Prueba una conmutación antes de depender de ella.

4. 04

   Claves, presupuestos y seguimiento del gasto

   Para los equipos, la función central es emitir claves virtuales con presupuestos y límites de uso por equipo, usuario o proyecto, y registrar el gasto asociado. Comprueba cuáles de estas funciones están en la versión de código abierto y cuáles son de pago: la documentación de LiteLLM y su página para empresas no coinciden en si los presupuestos son solo para empresas. Los routers alojados se encargan de la facturación por ti, pero dan controles menos finos.

5. 05

   Seguridad y cadena de suministro

   Un gateway guarda todas tus claves de proveedores, así que su propio historial de seguridad importa tanto como sus funciones. Las versiones 1.82.7 y 1.82.8 de LiteLLM en PyPI fueron envenenadas en marzo de 2026 para robar credenciales. Fija versiones exactas, instala desde imágenes verificadas, aísla el gateway y mantén los routers locales ligados a localhost. Revisa también los valores por defecto: Bifrost se distribuía con su API de administración sin autenticación, y un fallo con una puntuación de 9,8 que permitía ejecutar comandos con una sola petición sin autenticar no se corrigió hasta v2.1.0, en septiembre de 2026. La propiedad también importa: Portkey forma parte ahora de Palo Alto Networks, que decide su hoja de ruta.

6. 06

   Sobrecarga de latencia y caché

   Los gateways anuncian sobrecargas pequeñas (LiteLLM cita 8 ms en P95 a 1.000 peticiones por segundo; Bifrost, 11 µs a 5.000; Portkey, menos de 1 ms), pero son benchmarks de los propios proyectos; mídelo con tu tráfico. Un router alojado añade un salto de red y quizá un cambio de región. Los routers semánticos añaden una llamada a un clasificador por petición; los modelos de decisión declaran de decenas a cientos de milisegundos. La caché de respuestas y el paso de la caché de prompts del proveedor pueden ahorrar más de lo que cuesta el router.

7. 07

   Método de enrutamiento, licencia y mantenimiento

   El enrutamiento basado en reglas (listas de modelos, pesos, condiciones) es predecible y fácil de auditar. El enrutamiento semántico o aprendido es más barato en teoría, pero más difícil de depurar; comprueba si informa de por qué se eligió un modelo. Las licencias varían: MIT (Portkey, Claude Code Router), MIT con una carpeta empresarial comercial (LiteLLM), Apache 2.0 (vLLM Semantic Router, Bifrost, cuya versión Enterprise tiene licencia aparte). Revisa la actividad de versiones: el gateway de Portkey no tuvo ninguna versión estable entre enero y octubre de 2026.

11 herramientas comparadas

Ordenadas por nuestra nota. Abre cualquier reseña para ver las fuentes, los precios y el veredicto completo.

Comparativa de herramientas de Enrutamiento y gateways de LLMs

Herramienta	Nota	Nuestro veredicto	Ideal para	Precio
OpenRouterherramienta	4.6/5	OpenRouter es la primera parada sensata si tu app necesita más de un modelo, pero cuando te quedas con un único modelo a un volumen alto y constante, merece la pena ahorrarse su comisión por créditos.	Desarrolladores y equipos pequeños que quieren probar, comparar u ofrecer muchos modelos de IA a través de una única integración.	Pagas los precios de tarifa de los proveedores por los modelos. Comisión al comprar créditos: 5,5% (Standard) u 8% (Business). Uso con claves propias gratis durante los primeros $25.000/mes, y después un 5%. Modelos gratuitos: 50 peticiones/día, o 1.000/día tras una compra de $10.
Perplexity Decider (pplx-decider)modelo	4.5/5	Un modelo de decisión que puedes descargar, que lee imágenes y que cuesta menos de la mitad que Jev, con una puntuación muy superior a la de Jev en pruebas con las que nadie puede entrenar.	Equipos que quieren decisiones tipadas sólidas sobre texto e imágenes, ya sea con una API barata o en sus propias GPU.	API: pplx-decider-v1.2 a 0,02 $ y Flash a 0,01 $ por 1M de tokens de entrada; salida gratuita, sin tarifa por petición. Pesos gratuitos bajo Apache 2.0.
LiteLLMrepo	4.3/5	El gateway autoalojado por defecto para equipos que necesitan una sola API, presupuestos por equipo y respaldo entre muchos proveedores, siempre que fijen versiones y lo traten como infraestructura crítica para la seguridad.	Equipos de plataforma que deben dar a muchos desarrolladores acceso controlado a muchos proveedores de modelos desde su propia infraestructura.	Gratuito y de código abierto bajo MIT, salvo la carpeta enterprise/, que tiene una licencia comercial aparte. Enterprise tiene precio a medida, con una clave de prueba gratuita de 30 días.
d3 (vLLM Semantic Router)modelo	4.0/5	Potente, abierto y fácil de servir en vLLM, pero nueve días después de su lanzamiento su propio d3-turbo lo convirtió en la versión de la que migrar.	Equipos que ya usan vLLM y quieren un modelo de decisión abierto para comprobaciones de texto, imagen o vídeo en sus propias GPU, y que lo han validado con este checkpoint.	Pesos gratuitos bajo Apache 2.0. Sin API alojada de pago; la demostración pública gratuita sirve ahora d3-turbo.
Claude Code Routerrepo	4.0/5	Una centralita local capaz para usar agentes de programación con modelos más baratos, siempre que aceptes que Anthropic no dará soporte al resultado y que las ediciones serán peores.	Desarrolladores que quieren usar Claude Code u otros agentes con modelos más baratos o locales.	Gratuito y de código abierto (MIT). Pagas a cada proveedor de modelos al que enrutes.
Bifrostrepo	3.9/5	Un gateway rápido con licencia Apache y presupuestos en la versión gratuita, lastrado por un valor de seguridad por defecto que dejó abierta su API de administración hasta septiembre de 2026.	Equipos con grandes volúmenes de peticiones, o empresas que trabajan en Go, que quieren un gateway con licencia Apache y presupuestos y están dispuestos a blindar su API de administración.	Gratuito y de código abierto con Apache 2.0. Enterprise tiene precio a medida, con una prueba gratuita de 14 días; el precio no se publica.
vLLM Semantic Routerrepo	3.8/5	Un router abierto y ambicioso para elegir modelo en cada petición, adecuado para equipos que ya ejecutan vLLM y pueden asumir un proyecto que cambia rápido.	Equipos que sirven varios modelos, a menudo en su propia flota de vLLM, con tráfico lo bastante variado como para justificar elegir modelo en cada petición.	Gratuito y de código abierto con Apache 2.0. No hay servicio alojado de pago.
Jevmodelo	3.8/5	Jev convirtió las decisiones tipadas en un producto, y desde entonces los modelos abiertos lo han superado en puntuación y en precio.	Equipos que quieren una API alojada y barata para enrutar texto, hacer triaje y filtros de sí/no sin operar sus propias GPU.	$0,042 por 1M de tokens de entrada ($42 por cada mil millones); los tokens de salida son gratis. Mismo precio con contexto largo. Límites Enterprise a través de ventas.
Portkey AI Gatewayrepo	3.7/5	Un router limpio con licencia MIT que no se ha movido desde que lo compró Palo Alto Networks; sirve para usarlo hoy, pero es difícil basar una hoja de ruta en él.	Equipos en runtimes de edge, o empresas que ya compran seguridad de Palo Alto, que quieren una capa de enrutado ligera.	Gratis y de código abierto bajo MIT. Planes alojados: Developer gratis (10.000 logs registrados al mes, retención de logs de 3 días); Production 49 $/mes (100.000 logs, y después 9 $ por cada 100.000); Enterprise a medida.
ScaleDown Constrained Decoding Models (Classify, Extract, Summarize)modelo	3.7/5	Los precios son reales y el clasificador es bueno, pero las cifras del lanzamiento fueron más allá de las pruebas y la compatibilidad con Jev sale más cara de lo que parece.	Equipos que pagan precios de modelos insignia por enrutar, etiquetar o extraer campos y quieren un sustituto alojado barato, y que lo probarán antes con sus propios datos etiquetados.	0,05 $ por 1 millón de tokens de entrada de texto, 0,15 $ por 1 millón de tokens de entrada de imagen, salida gratis; 1 millón de tokens gratis para cuentas nuevas. OpenRouter: 0,04 $ con un descuento del 20%. Enterprise: instancia dedicada o licencia para alojarlo uno mismo, bajo presupuesto.
LLayamodelo	3.4/5	Muy rápido y realmente abierto, pero de entrada casi adivina en las decisiones difíciles: una base que ajustar, no un sustituto de Jev.	Equipos con sus propios datos de decisiones etiquetados que quieren un modelo diminuto y autoalojado que ajustar para enrutado rápido o salvaguardas.	Pesos y paquete de Python gratuitos bajo Apache 2.0. Sin API alojada de pago; lo ejecutas tú.

Lado a lado

Las especificaciones que importan en este paso. Comprobado el 19 oct 2026; confírmalo en la web del proveedor antes de decidirte.

Comparativas directas y guías con ranking

• LiteLLM frente a Bifrost
• LiteLLM frente a Portkey AI Gateway

Dónde encaja esta etapa

• Agente de atención al cliente: empezaríamos con Jev.
• Agente de programación: empezaríamos con OpenRouter, LiteLLM.
• Agente de voz: empezaríamos con Laya.
• Procesamiento de documentos: empezaríamos con GLiNER2.5-Decide.
• Automatización de flujos de trabajo: empezaríamos con Perplexity Decider (pplx-decider).

Fuentes de esta guía

• OpenRouter pricing
• LiteLLM repository
• LiteLLM enterprise
• Datadog Security Labs: LiteLLM PyPI compromise
• Portkey AI Gateway repository
• Palo Alto Networks completes acquisition of Portkey
• Bifrost repository
• Bifrost docs: supported providers
• The Hacker News: Critical Bifrost AI gateway flaw
• vLLM Semantic Router repository
• Claude Code Router repository