¿Qué es Cog?
Cog empaqueta un modelo de machine learning como contenedor Docker. Describes el entorno en cog.yaml (versión de Python, paquetes del sistema, dependencias, si necesita GPU) y escribes una clase de Python cuyo setup() carga los pesos y cuyo run() recibe entradas tipadas. Cog elige una imagen base con versiones compatibles de CUDA, cuDNN y framework, construye el contenedor, genera un esquema OpenAPI a partir de tus tipos y lo sirve con coglet, un servidor HTTP en Rust, en el puerto 5000.
Lo hace Replicate, y es el formato que ejecuta la plataforma alojada de Replicate: cog push envía una imagen al registro de Replicate o a cualquier registro OCI. La misma imagen funciona en cualquier sitio donde funcione Docker, así que no quedas atado a Replicate. Replicate fue comprada por Cloudflare, en una operación que se cerró el 1 de diciembre de 2025.
El proyecto está escrito sobre todo en Go, tiene licencia Apache 2.0 y unas 9.500 estrellas. Publica a menudo: v0.20.0, en mayo de 2026, renombró cog predict a cog run y predict() a run(); v0.22.0, en agosto, hizo que los servidores locales escuchen solo en 127.0.0.1, y v0.23.1, del 20 de octubre de 2026, es la última versión.
¿Merece la pena Cog?
Cog elimina la parte de publicar un modelo que más odian los investigadores: cuadrar versiones de CUDA, cuDNN, PyTorch y Python en un Dockerfile hasta que la imagen por fin funciona en una GPU. Indicas la versión de Python y los paquetes en cog.yaml, escribes una clase con setup() y run(), y cog build produce una imagen que responde a POST /predictions con entradas validadas contra un esquema OpenAPI generado a partir de tus anotaciones de tipo.
Es una herramienta de empaquetado, no un motor de inferencia rápido. vLLM o SGLang agrupan peticiones de varios usuarios para exprimir el rendimiento de una GPU con un modelo de lenguaje; Cog envuelve el código que escribas y ejecuta una predicción cada vez salvo que subas el límite con @cog.concurrent. Eso encaja mejor con modelos de imagen, audio y vídeo y con pipelines a medida que con modelos de chat con muchos usuarios simultáneos; cuando todos los huecos están ocupados, el servidor responde 409 Conflict. Las últimas versiones añadieron streaming con Server-Sent Events en junio de 2026, un playground en el navegador en agosto y trazas OpenTelemetry opcionales en septiembre.
La pega: la documentación HTTP no describe ninguna autenticación para la API de predicciones. La versión 0.22.0 hizo que cog serve escuche en 127.0.0.1 en lugar de en todas las interfaces de red, un arreglo sensato, pero una imagen construida sigue sirviendo en el puerto 5000 a quien pueda alcanzarla, así que cualquier despliegue compartido necesita delante un proxy con autenticación. La interfaz también cambia: v0.20.0 renombró predict a run (los nombres antiguos siguen funcionando como alias), los comandos cog weights avisan de que son experimentales, y un fallo corregido solo en v0.23.1 podía marcar una predicción como correcta después de que fallara la subida de su resultado.
La propiedad es la pregunta a largo plazo. Cog existe para alimentar a Replicate, que ahora es de Cloudflare y se está trasladando a su infraestructura. La licencia es Apache 2.0, así que la herramienta sobreviviría a un cambio de planes, pero su hoja de ruta sigue las necesidades de Replicate.
Nuestra opinión: Cog es a un modelo lo que un contenedor de mercancías es a la carga. No hará que el contenido vaya más rápido, pero nadie al otro lado necesita saber qué hay dentro para moverlo.
Dónde se gana su sitio
Una investigadora de visión por computador con un repositorio que funciona y sin ayuda de DevOps
Publicar un modelo para que otros lo llamen por una API
Escribe cog.yaml y un run.py alrededor del código de inferencia existente, pruébalo con cog run -i image=@input.jpg y luego haz cog push a Replicate. Cog es gratis; Replicate cobra por segundo de hardware mientras el modelo se ejecuta.
Un equipo de plataforma de una empresa de medios con modelos en su propio clúster de Kubernetes
Dar a todos los modelos la misma forma de contenedor y el mismo contrato HTTP
Exige a cada equipo que entregue una imagen Cog, súbela al registro OCI interno con cog push --json para obtener referencias fijadas por digest y pon un gateway con autenticación delante del puerto 5000. Sin coste de licencia; el ahorro es no mantener un Dockerfile por modelo.
Una startup de dos personas que vende una API de limpieza de audio
Enviar en streaming el progreso y los resultados parciales a la app del cliente
Marca run() con @cog.streaming y haz que los clientes pidan text/event-stream para recibir los eventos start, output, log y completed; los clientes que se reconectan pueden reproducir los eventos en curso. Alójalo en Replicate o en una GPU alquilada.
Antes de decidirte
- Puesta en marcha
- Instala Docker (más Buildx si usas Docker Engine) y luego brew install replicate/tap/cog en macOS o el script de instalación en Linux; Windows 11 necesita WSL 2. Una primera imagen es cog.yaml, run.py y cog build; cog doctor avisa cuando las wheels de PyTorch y CUDA elegidas no traen kernels para tu GPU.
- Integraciones
- Docker y cualquier registro OCI; el registro y el alojamiento de Replicate; esquema OpenAPI para clientes; streaming con Server-Sent Events; webhooks; exportación OTLP de trazas OpenTelemetry; una interfaz web local de playground.
- Datos y privacidad
- Cog no envía nada a ningún sitio; los datos se quedan donde ejecutes la imagen. La documentación de la API HTTP no describe autenticación, y desde v0.22.0 los servidores locales escuchan por defecto en 127.0.0.1. Las trazas están desactivadas por defecto. Apache 2.0.
- Coste a escala
- Cog es gratis; el coste es la GPU. En Replicate es facturación por segundo de hardware; autoalojado, son tus propias instancias, y la concurrencia por defecto de una predicción implica más réplicas con muchas peticiones.
- Límites
- Una predicción cada vez salvo que se configure @cog.concurrent(max=N); las respuestas JSON no permiten consultar el estado por polling; los endpoints de entrenamiento no admiten SSE; cog weights es experimental; unos 100 issues y pull requests abiertos.
Lo bueno
- Elige por ti versiones compatibles de CUDA, cuDNN y framework
- Esquema OpenAPI y validación de entradas generados a partir de anotaciones de tipo de Python
- La misma imagen funciona en Replicate, en tus hosts Docker o en cualquier registro OCI
- Versiones activas: streaming, playground y trazas OpenTelemetry en 2026
Lo malo
- Sin autenticación documentada para la API de predicciones
- Una predicción cada vez por defecto; no es un servidor de LLM con batching
- Interfaz cambiante: predict pasó a run en v0.20.0; comandos de pesos experimentales
- Sin soporte nativo para Windows; necesita WSL 2
Ideal para
Ingenieros y investigadores de ML que necesitan que un modelo funcione de forma fiable en un contenedor con GPU, sobre todo si publican en Replicate.
Alternativas a Cog
Cog: preguntas frecuentes
- ¿Merece la pena Cog?
- Cog es el camino más corto de un repositorio de investigación a un contenedor con una API HTTP tipada, y la opción obvia si vas a alojar en Replicate, aunque su API no documenta autenticación propia y su interfaz sigue cambiando. Le damos un 4.1 sobre 5.
- ¿Cuánto cuesta Cog?
- Gratuito y de código abierto bajo Apache 2.0. Ejecutar imágenes en Replicate se factura aparte según los precios de Replicate por segundo de hardware o por resultado.
- ¿Qué inconvenientes tiene Cog?
- Sin autenticación documentada para la API de predicciones; una predicción cada vez por defecto; no es un servidor de LLM con batching; interfaz cambiante: predict pasó a run en v0.20.0; comandos de pesos experimentales; sin soporte nativo para Windows; necesita WSL 2.
- ¿Para quién es Cog?
- Ingenieros y investigadores de ML que necesitan que un modelo funcione de forma fiable en un contenedor con GPU, sobre todo si publican en Replicate.
- ¿Cuánto cuesta Cog para un equipo o en producción?
- Cog es gratis; el coste es la GPU. En Replicate es facturación por segundo de hardware; autoalojado, son tus propias instancias, y la concurrencia por defecto de una predicción implica más réplicas con muchas peticiones.
- ¿Es Cog seguro para los datos de la empresa?
- Cog no envía nada a ningún sitio; los datos se quedan donde ejecutes la imagen. La documentación de la API HTTP no describe autenticación, y desde v0.22.0 los servidores locales escuchan por defecto en 127.0.0.1. Las trazas están desactivadas por defecto. Apache 2.0.
- ¿Cuáles son las mejores alternativas a Cog?
- Las alternativas más cercanas que hemos analizado son vLLM y SGLang.
Respuestas comprobadas el 14 nov 2026.
¿Desarrollas Cog? Muestra esta nota en tu web
