Límite de uso (API)
Un límite de uso (rate limit) restringe cuánto puede usar una cuenta una API en un intervalo de tiempo, normalmente como peticiones por minuto (RPM) y tokens por minuto (TPM). Las peticiones que superan el límite se rechazan, por lo general con un error HTTP 429.
También llamado: rate limiting, RPM, TPM
Por Divya Sharma · Comprobado el 16 nov 2026 · Cómo hacemos las reseñas
Los proveedores de IA limitan el uso para repartir la capacidad de forma justa y evitar abusos. Los límites suelen fijarse por organización o proyecto y por modelo, y aumentan a medida que tu cuenta acumula historial de uso. La documentación de Anthropic, por ejemplo, mide los límites de la Messages API en peticiones por minuto, tokens de entrada por minuto y tokens de salida por minuto, y devuelve un error 429 que indica qué límite se superó.
Cómo se comportan los límites
Un límite por minuto a menudo se aplica en intervalos más cortos, así que una ráfaga puede fallar aunque el total del minuto estuviera bien. Anthropic dice que su API usa un token bucket, de modo que la capacidad se repone de forma continua en lugar de reiniciarse en momentos fijos. Algunos límites solo cuentan la entrada no cacheada, lo que convierte el prompt caching en una forma de meter más trabajo bajo el mismo límite. Los topes de gasto aparte también pueden bloquear peticiones cuando se alcanza un presupuesto mensual.
Cómo gestionar los errores 429
Lee la cabecera `retry-after` cuando exista y espera ese tiempo. Si no, reintenta con backoff exponencial y algo de jitter aleatorio, y limita el número de reintentos para que una tarea que falla no entre en un bucle infinito. Las cabeceras de respuesta suelen indicar cuánto queda de cada límite, lo que permite a un cliente frenar antes de alcanzarlo. Para tareas grandes offline, una batch API suele tener sus propios límites, más altos.
Planificar en torno a los límites
Reparte el tráfico en el tiempo, mantén los prompts ligeros y fija tus propios límites por espacio de trabajo para que un servicio no deje sin capacidad a los demás. Un LLM gateway puede poner peticiones en cola y enviarlas a un modelo de fallback o a un segundo proveedor cuando uno está limitado. Los límites de uso son independientes del precio por token.
Términos relacionados
- Precio por token
- El precio por token (token pricing) es la forma en que cobran la mayoría de las API de modelos de IA: un precio fijo por millón de tokens de entrada que envías y otro aparte, normalmente más alto, por millón de tokens de salida que genera el modelo, con descuentos para la entrada en caché y las tareas por lotes.
- Batch API
- Una batch API (API por lotes) te permite enviar un gran conjunto de peticiones a un modelo en un solo trabajo y recoger los resultados más tarde, en lugar de esperar cada llamada. Los proveedores ejecutan el trabajo cuando hay capacidad y normalmente cobran menos por él.
- LLM gateway
- Un LLM gateway (pasarela de LLM) es un servidor proxy situado entre tus aplicaciones y los proveedores de modelos que expone una sola API y gestiona en un único lugar las claves, el enrutamiento, los fallbacks, los límites de uso, el registro y el control del gasto.
- Fallback de modelo
- El fallback de modelo (model fallback) es una regla que envía una petición a un modelo o proveedor de reserva cuando la primera opción falla, tarda demasiado, alcanza un límite de uso o rechaza la entrada. Mantiene en marcha una función de IA durante las caídas.
- Clave de API
- Una clave de API (API key) es una cadena secreta que una aplicación envía con cada petición para que un servicio sepa qué cuenta llama, aplique sus límites y la facture. Normalmente, cualquiera que tenga la clave puede usarla.