O que é Cog?
O Cog empacota um modelo de machine learning como contêiner Docker. Você descreve o ambiente em cog.yaml (versão do Python, pacotes do sistema, dependências, se precisa de GPU) e escreve uma classe Python cujo setup() carrega os pesos e cujo run() recebe entradas tipadas. O Cog escolhe uma imagem base com versões compatíveis de CUDA, cuDNN e framework, constrói o contêiner, gera um esquema OpenAPI a partir dos seus tipos e o serve pelo coglet, um servidor HTTP em Rust, na porta 5000.
É feito pela Replicate, e é o formato que a plataforma hospedada da Replicate executa: cog push envia uma imagem para o registro da Replicate ou para qualquer registro OCI. A mesma imagem roda onde o Docker rodar, então você não fica preso à Replicate. A própria Replicate foi comprada pela Cloudflare, num negócio concluído em 1 de dezembro de 2025.
O projeto é escrito principalmente em Go, tem licença Apache 2.0 e cerca de 9.500 estrelas. Lança com frequência: a v0.20.0, em maio de 2026, renomeou cog predict para cog run e predict() para run(); a v0.22.0, em agosto, fez os servidores locais escutarem só em 127.0.0.1; e a v0.23.1, de 20 de outubro de 2026, é a versão mais recente.
Cog vale a pena?
O Cog elimina a parte de colocar um modelo no ar que pesquisadores mais odeiam: acertar versões de CUDA, cuDNN, PyTorch e Python num Dockerfile até a imagem finalmente rodar numa GPU. Você lista a versão do Python e os pacotes em cog.yaml, escreve uma classe com setup() e run(), e o cog build gera uma imagem que responde a POST /predictions com entradas validadas contra um esquema OpenAPI gerado das suas anotações de tipo.
É uma ferramenta de empacotamento, não um motor de serving rápido. vLLM ou SGLang agrupam requisições de vários usuários para tirar o máximo de uma GPU com um modelo de linguagem; o Cog embrulha o código que você escreve e roda uma predição por vez, a menos que você aumente o limite com @cog.concurrent. Isso combina mais com modelos de imagem, áudio e vídeo e pipelines sob medida do que com modelos de chat com muitos usuários simultâneos; quando todas as vagas estão ocupadas, o servidor responde 409 Conflict. Versões recentes trouxeram streaming por Server-Sent Events em junho de 2026, um playground no navegador em agosto e tracing OpenTelemetry opcional em setembro.
O porém: a documentação HTTP não descreve autenticação para a API de predições. A versão 0.22.0 fez o cog serve escutar em 127.0.0.1 em vez de em todas as interfaces de rede, uma correção sensata, mas uma imagem construída continua servindo na porta 5000 a quem conseguir alcançá-la, então qualquer implantação compartilhada precisa de um proxy com autenticação na frente. A interface também muda: a v0.20.0 renomeou predict para run (os nomes antigos seguem como aliases), os comandos cog weights avisam que são experimentais, e um bug corrigido só na v0.23.1 podia marcar uma predição como bem-sucedida depois que o envio do resultado falhou.
A propriedade é a questão de longo prazo. O Cog existe para abastecer a Replicate, que agora pertence à Cloudflare e está migrando para a infraestrutura dela. A licença é Apache 2.0, então a ferramenta sobreviveria a uma mudança de planos, mas o roadmap segue as necessidades da Replicate.
Nossa opinião: o Cog é para um modelo o que um contêiner de navio é para a carga. Não deixa o conteúdo mais rápido, mas ninguém do outro lado precisa saber o que tem dentro para movê-lo.
Onde ele se destaca
Uma pesquisadora de visão computacional com um repositório funcionando e sem ajuda de DevOps
Publicar um modelo para outras pessoas chamarem por uma API
Escreva cog.yaml e um run.py em volta do código de inferência existente, teste com cog run -i image=@input.jpg e depois faça cog push para a Replicate. O Cog é grátis; a Replicate cobra por segundo de hardware enquanto o modelo roda.
Uma equipe de plataforma de uma empresa de mídia que roda modelos no próprio cluster Kubernetes
Dar a todo modelo o mesmo formato de contêiner e o mesmo contrato HTTP
Exija de cada equipe uma imagem Cog, envie para o registro OCI interno com cog push --json para ter referências fixadas por digest e coloque um gateway com autenticação na frente da porta 5000. Sem custo de licença; a economia é não manter um Dockerfile por modelo.
Uma startup de duas pessoas que vende uma API de limpeza de áudio
Transmitir progresso e resultados parciais para o app do cliente
Marque run() com @cog.streaming e faça os clientes pedirem text/event-stream para receber os eventos start, output, log e completed; clientes que reconectam podem reproduzir os eventos em andamento. Hospede na Replicate ou numa GPU alugada.
Antes de decidir
- Configuração
- Instale o Docker (mais o Buildx se usar o Docker Engine), depois brew install replicate/tap/cog no macOS ou o script de instalação no Linux; o Windows 11 precisa de WSL 2. A primeira imagem é cog.yaml, run.py e cog build; o cog doctor avisa quando as wheels de PyTorch e CUDA escolhidas não têm kernels para a sua GPU.
- Integrações
- Docker e qualquer registro OCI; registro e hospedagem da Replicate; esquema OpenAPI para clientes; streaming por Server-Sent Events; webhooks; exportação OTLP de traces OpenTelemetry; uma interface web local de playground.
- Dados e privacidade
- O Cog em si não envia nada a lugar nenhum; os dados ficam onde você roda a imagem. A documentação da API HTTP não descreve autenticação, e desde a v0.22.0 os servidores locais escutam por padrão em 127.0.0.1. O tracing vem desligado. Apache 2.0.
- Custo em escala
- O Cog é grátis; o custo é a GPU. Na Replicate, é cobrança por segundo de hardware; auto-hospedado, são as suas instâncias, e a concorrência padrão de uma predição significa mais réplicas com muitas requisições.
- Limites
- Uma predição por vez se @cog.concurrent(max=N) não for configurado; respostas JSON não permitem consultar o status por polling; endpoints de treino não suportam SSE; cog weights é experimental; cerca de 100 issues e pull requests abertos.
O que é bom
- Escolhe para você versões compatíveis de CUDA, cuDNN e framework
- Esquema OpenAPI e validação de entradas gerados das anotações de tipo do Python
- A mesma imagem roda na Replicate, nos seus hosts Docker ou em qualquer registro OCI
- Versões ativas: streaming, playground e tracing OpenTelemetry em 2026
O que não é
- Nenhuma autenticação documentada para a API de predições
- Uma predição por vez por padrão; não é um servidor de LLM com batching
- Interface instável: predict virou run na v0.20.0; comandos de pesos experimentais
- Sem suporte nativo a Windows; precisa de WSL 2
Ideal para
Engenheiros e pesquisadores de ML que precisam de um modelo rodando de forma confiável num contêiner com GPU, especialmente quem publica na Replicate.
Alternativas ao Cog
Cog: perguntas frequentes
- Cog vale a pena?
- O Cog é o caminho mais curto de um repositório de pesquisa até um contêiner com API HTTP tipada, e a escolha óbvia se você vai hospedar na Replicate, embora a API não documente autenticação própria e a interface ainda esteja mudando. Damos nota 4.1 de 5.
- Quanto custa Cog?
- Gratuito e open source sob Apache 2.0. Rodar imagens na Replicate é cobrado à parte, pelos preços da Replicate por segundo de hardware ou por resultado.
- Quais são as desvantagens de Cog?
- Nenhuma autenticação documentada para a API de predições; uma predição por vez por padrão; não é um servidor de LLM com batching; interface instável: predict virou run na v0.20.0; comandos de pesos experimentais; sem suporte nativo a Windows; precisa de WSL 2.
- Para quem Cog é indicado?
- Engenheiros e pesquisadores de ML que precisam de um modelo rodando de forma confiável num contêiner com GPU, especialmente quem publica na Replicate.
- Quanto custa Cog para uma equipe ou em produção?
- O Cog é grátis; o custo é a GPU. Na Replicate, é cobrança por segundo de hardware; auto-hospedado, são as suas instâncias, e a concorrência padrão de uma predição significa mais réplicas com muitas requisições.
- Cog é seguro para dados da empresa?
- O Cog em si não envia nada a lugar nenhum; os dados ficam onde você roda a imagem. A documentação da API HTTP não descreve autenticação, e desde a v0.22.0 os servidores locais escutam por padrão em 127.0.0.1. O tracing vem desligado. Apache 2.0.
- Quais são as melhores alternativas ao Cog?
- As alternativas mais próximas que analisamos são vLLM e SGLang.
Respostas verificadas em 14 de nov. de 2026.
Você faz o Cog? Mostre esta nota no seu site
