Proveedor de inferencia
Un proveedor de inferencia (inference provider) es una empresa que ejecuta modelos de IA en su propio hardware y vende acceso a ellos mediante una API, normalmente cobrando por token. Envías prompts y recibes salidas sin gestionar tú las GPU.
También llamado: model host, inference API, model API provider
Por Divya Sharma · Comprobado el 15 nov 2026 · Cómo hacemos las reseñas
Ejecutar un modelo requiere GPU, un servidor de modelos, escalado y monitorización. Un proveedor de inferencia se encarga de todo eso y expone el modelo como una API. Algunos, como los grandes laboratorios, solo sirven sus propios modelos. Otros, como Together AI, Fireworks AI, Groq, Baseten y Replicate, alojan muchos modelos open-weight, así que puedes usar el mismo modelo de más de una empresa.
En qué se diferencian
Los proveedores que sirven el mismo modelo pueden diferir mucho en precio, velocidad, ventana de contexto, límites de uso y cuantización, ya que algunos ejecutan versiones de menor precisión para ahorrar costes. Muchos exponen una API compatible con OpenAI, así que cambiar suele consistir en cambiar la URL base y la clave. Compara los precios actuales por token en nuestra página de precios de modelos de IA.
Agregadores
Los enrutadores se sitúan delante de muchos proveedores. Inference Providers de Hugging Face, por ejemplo, da acceso a modelos de varios proveedores asociados mediante un solo token y un endpoint compatible con OpenAI, y puede elegir el proveedor más rápido o más barato para cada modelo. OpenRouter funciona de forma parecida. Esto simplifica el fallback de modelos entre proveedores.
Proveedor de inferencia frente a nube de GPU
Una nube de GPU te alquila máquinas y tú ejecutas el modelo. Un proveedor de inferencia te alquila la salida del modelo. Lo primero da más control; lo segundo da menos trabajo.
Qué comprobar
Dónde se procesan las peticiones y si se guardan o se usan para entrenar importa para la privacidad y la residencia de datos. Lee las condiciones de datos de cada proveedor y comprueba si ofrece zero data retention.
Términos relacionados
- Serving de modelos
- El serving de modelos (model serving) consiste en ejecutar un modelo entrenado como un servicio al que las aplicaciones llaman por la red, con software que carga los pesos en las GPU, pone en cola y agrupa las peticiones, gestiona la memoria y devuelve los resultados.
- API compatible con OpenAI
- Una API compatible con OpenAI (OpenAI-compatible API) es un endpoint de otro proveedor o herramienta que acepta el mismo formato de petición y respuesta que la API de OpenAI, de modo que el código escrito para OpenAI puede pasarse a él cambiando la URL base, la clave y el nombre del modelo.
- Precio por token
- El precio por token (token pricing) es la forma en que cobran la mayoría de las API de modelos de IA: un precio fijo por millón de tokens de entrada que envías y otro aparte, normalmente más alto, por millón de tokens de salida que genera el modelo, con descuentos para la entrada en caché y las tareas por lotes.
- Nube de GPU
- Una nube de GPU (GPU cloud) es un servicio que alquila máquinas con GPU por horas o por segundos para entrenamiento, fine-tuning e inferencia de IA. Los proveedores especializados, a veces llamados neoclouds, se centran en las GPU y a menudo cobran menos que las grandes nubes generalistas.
- Fallback de modelo
- El fallback de modelo (model fallback) es una regla que envía una petición a un modelo o proveedor de reserva cuando la primera opción falla, tarda demasiado, alcanza un límite de uso o rechaza la entrada. Mantiene en marcha una función de IA durante las caídas.