Etapa 17 de 22
Implantação e hospedagem
Colocar modelos, agentes e apps em uma infraestrutura que escala. Um modelo que funciona em um notebook ainda precisa aguentar tráfego real. A implantação decide cold starts, escalabilidade e quem guarda os seus dados.
Por Sheela · Verificado em 23 de out. de 2026 · Como avaliamos
Como escolher
- Modelos e pipelines personalizados sem operar Kubernetes: uma plataforma serverless de GPU.
- Modelos abertos populares por trás de uma API: um marketplace de modelos hospedados.
- Apps e agentes na nuvem que você já usa: as ferramentas do próprio provedor de nuvem, acionadas pelo seu agente via MCP.
O que observar
As perguntas que separam as opções, em ordem de importância.
01
Traga o seu próprio modelo ou escolha de um catálogo
Decida primeiro se você vai implantar os seus próprios pesos e código ou chamar modelos hospedados por outra empresa. Plataformas de GPU (Modal, Runpod, Baseten) executam qualquer contêiner ou código Python que você entregar. Marketplaces (Replicate, fal) são mais fortes quando o modelo que você quer já está no catálogo deles. Os serviços de modelos das nuvens (Amazon Bedrock, o Agent Platform do Google) priorizam o catálogo; o Custom Model Import do Bedrock, por exemplo, aceita apenas algumas arquiteturas. Um modelo com fine-tuning ou incomum reduz as opções rapidamente.
02
GPUs serverless ou dedicadas
Workers serverless sobem quando as requisições chegam e param quando o tráfego acaba, então você não paga nada parado, mas enfrenta cold starts. GPUs dedicadas ficam ligadas, custam dinheiro a cada hora e respondem na hora. Tráfego irregular ou baixo combina com serverless; tráfego constante sai mais barato em capacidade dedicada ou reservada. A maioria das plataformas oferece as duas: o Runpod tem workers flex e workers ativos sempre ligados, o Baseten cobra GPUs dedicadas por minuto sem cobrança por ociosidade, e os serviços de nuvem vendem throughput provisionado.
03
Cold starts, medidos no seu modelo
Um cold start é o tempo para subir um contêiner e carregar os pesos na memória da GPU antes da primeira resposta. Os fornecedores citam os melhores casos, como a promessa de menos de 200 ms do FlashBoot do Runpod, mas o tempo de carregamento cresce com o tamanho do modelo e da imagem. Pergunte se o tempo de cold start é cobrado (no Runpod é), quanto tempo um worker ocioso espera antes de desligar e se você pode manter um número mínimo de workers aquecidos.
04
Modelo de preço e os multiplicadores
Compare coisas equivalentes. Plataformas de GPU cobram por segundo ou minuto de hardware; marketplaces muitas vezes cobram por imagem gerada ou por segundo de vídeo; serviços de modelos cobram por milhão de tokens, com níveis em lote por cerca de metade do preço e níveis prioritários acima da tabela. Depois, leia as letras miúdas: o Modal cobra de 1,15x a 1,75x para fixar a região e 3x para capacidade não preemptível, e os endpoints regionais do Google custam cerca de 10% a mais que os globais. Para uma carga de trabalho contínua, calcule a conta mensal em cada modelo de preço antes de escolher.
05
Disponibilidade e tipos de GPU
Verifique se a GPU de que você precisa está listada e realmente disponível na quantidade necessária. Uma H100 vai de cerca de $2,69 por hora na Community Cloud do Runpod a $6,50 no Baseten dedicado, e as B200 agora são comuns no topo. Capacidade comunitária ou spot, mais barata, pode ser interrompida. Para treinamento ou modelos muito grandes, procure nós com várias GPUs e interconexão rápida, como InfiniBand.
06
Residência de dados e conformidade
Pergunte onde as requisições são processadas, se os seus dados treinam o modelo de alguém e quais certificações cobrem exatamente o nível de produto que você vai usar. O Amazon Bedrock afirma que os prompts não são usados para melhorar os modelos base e é elegível para HIPAA; o Runpod tem SOC 2 Type II e ISO 27001, mas a sua página de conformidade não diz se os hosts da Community Cloud estão no escopo, e a própria orientação da empresa manda dados regulados para a Secure Cloud single-tenant. O Baseten Enterprise pode rodar dentro da sua própria conta de nuvem. Se os dados precisam ficar em uma região, confirme se a fixação de região está disponível e quanto custa.
07
Controles de autoscaling
Um bom autoscaling permite definir réplicas mínimas e máximas, uma meta de concorrência por réplica e um atraso para reduzir a escala. Sem isso, você paga demais por GPUs ociosas ou perde requisições durante um pico. Verifique os limites de concorrência padrão nos planos gratuitos e de entrada, que costumam ser baixos.
08
Aprisionamento
Implantações portáteis são contêineres simples e endpoints compatíveis com a OpenAI. O aprisionamento cresce com SDKs específicos da plataforma, formatos de empacotamento como o Cog do Replicate e serviços de nível mais alto como Bedrock Agents e Knowledge Bases ou o Agent Runtime e o Memory Bank do Google. Pode ser uma troca justa, mas inclua no preço o custo de sair antes de adotá-los.
Como as opções se diferenciam
Plataformas serverless de GPU (Modal, Runpod, Baseten) executam o seu próprio código ou contêiner em GPUs que escalam com o tráfego. O Modal é Python com foco em código, o Runpod é o mais barato e o mais próximo de GPUs puras, e o Baseten é construído em torno de endpoints de produção confiáveis, com Model APIs cobradas por token ao lado. Marketplaces de modelos (Replicate, fal, Hugging Face) colocam um catálogo de modelos prontos por trás de uma única API e também permitem implantar os seus; o Replicate e o fal pendem para imagem, vídeo e áudio, enquanto o Hugging Face combina o hub com Inference Endpoints dedicados e um roteador para provedores parceiros.
Os serviços de modelos dos hyperscalers (Amazon Bedrock, o Agent Platform do Google, antes Vertex AI) vendem modelos de fronteira e abertos por token dentro da conta de nuvem que você já tem, com a identidade, a rede, a conformidade e o faturamento dela. São o caminho mais fácil pelo setor de compras de uma grande empresa e os mais difíceis de abandonar. Os servidores MCP dos provedores de nuvem listados nesta etapa não são alternativas a essas plataformas; eles permitem que um agente opere qualquer infraestrutura que você escolher.
9 ferramentas comparadas
Ordenadas pela nossa nota. Abra qualquer avaliação para ver as fontes, os preços e o veredito completo.
| Ferramenta | Nota | Nosso veredito | Ideal para | Preço |
|---|---|---|---|---|
| Hugging Faceferramenta | 4.7/5 | Indispensável como hub de modelos, competitivo mas sem destaque como host, e em breve nas mãos da maior vendedora de chips de IA. | Engenheiros e equipes de pesquisa que encontram, compartilham, testam ou fazem fine-tuning de modelos abertos, e organizações que precisam de um registro privado de modelos. | Conta gratuita (100GB de armazenamento privado, sem crédito de inferência incluído); PRO US$ 9/mês (US$ 2 de crédito de computação); Team US$ 20/usuário/mês; Enterprise US$ 50/usuário/mês. GPUs nos Spaces a partir de US$ 0,40/hora; Inference Endpoints a partir de US$ 0,03/hora (CPU), H100 US$ 4,50/hora. |
| Modalferramenta | 4.5/5 | O Modal transforma uma função Python em um serviço de GPU com menos cerimônia do que qualquer nuvem sobre a qual lemos, e cobra um prêmio assim que você precisa de garantias. | Desenvolvedores Python e equipes de ML que querem servir modelos próprios ou rodar jobs de GPU sem gerenciar servidores. | Starter US$ 0 + computação (crédito de US$ 30/mês, 3 assentos, 10 GPUs ao mesmo tempo); Team US$ 250/mês + computação (crédito de US$ 100, assentos ilimitados, 50 GPUs); Enterprise sob consulta. Por segundo: H100 cerca de US$ 3,95/hora, A100 80GB cerca de US$ 2,50/hora, B200 cerca de US$ 6,25/hora. |
| falferramenta | 4.4/5 | Se a geração de imagem ou vídeo está no centro do seu produto, a fal é onde os modelos novos chegam primeiro e onde os preços por resultado são mais fáceis de orçar. | Equipes de produto que adicionam geração de imagem ou vídeo a apps e querem muitos modelos por trás de uma única API. | Por resultado, por exemplo Nano Banana cerca de $0,04/imagem, Nano Banana Pro $0,15/imagem, Kling v3 Pro $0,14/segundo de vídeo, FLUX.1 [schnell] $0,003/megapixel. GPUs: H100 $4,50/hora de tabela (a partir de $2,49), B200 $7,99/hora (a partir de $5,49). Créditos comprados valem 365 dias. Enterprise sob cotação. |
| Runpodferramenta | 4.3/5 | O Runpod é onde moram as horas de GPU baratas, desde que você aceite empacotar os seus próprios contêineres e verificar qual nível de nuvem a sua conformidade de fato cobre. | Engenheiros de ML que querem GPUs baratas para treinamento, fine-tuning ou um endpoint de inferência autogerenciado e sabem trabalhar com Docker. | Pods por hora: H100 SXM US$ 3,99 Secure / US$ 2,69 Community; A100 SXM US$ 1,79 / US$ 1,39; B200 US$ 7,99 / US$ 5,98. Serverless por segundo: H100 cerca de US$ 4,79/hora, A100 80GB US$ 2,72/hora, 4090 US$ 1,10/hora. Armazenamento a partir de US$ 0,05/GB/mês. |
| Amazon Bedrockferramenta | 4.3/5 | Se a sua empresa já roda na AWS, o Bedrock transforma o Claude e os grandes modelos abertos em só mais um serviço da AWS; se não roda, você está se inscrevendo para aprender uma longa página de preços e um sistema de cotas. | Empresas que já estão na AWS e precisam do Claude ou de modelos abertos com controles de dados corporativos e uma única fatura. | Por 1M de tokens sob demanda, por exemplo DeepSeek V3.2 US$ 0,62 de entrada / US$ 1,85 de saída (EUA), Qwen3 Next 80B US$ 0,15 / US$ 1,20 (EUA). Batch e Flex com 50% de desconto; Priority +75%. Throughput provisionado por unidade de modelo por hora. Custom Model Import US$ 0,05718 por minuto de unidade de modelo (US East e West). Guardrails a partir de US$ 0,10 por 1.000 unidades de texto. |
| Basetenferramenta | 4.2/5 | A Baseten roda seus modelos em produção com a documentação de conformidade já pronta, mas suas GPUs dedicadas custam visivelmente mais do que você pagaria para alugá-las em outro lugar. | Empresas que servem modelos personalizados ou ajustados em produção e precisam de retenção zero de dados, HIPAA e da opção de rodar na própria nuvem. | Basic US$ 0/mês, pagamento por uso; Pro e Enterprise sob cotação. Model APIs por 1M de tokens, por exemplo GPT OSS 120B US$ 0,10 de entrada / US$ 0,50 de saída, Kimi K3 US$ 3 / US$ 15. GPUs dedicadas por minuto: T4 cerca de US$ 0,63/hora, A100 cerca de US$ 4,00/hora, H100 cerca de US$ 6,50/hora, B200 cerca de US$ 9,98/hora. |
| Replicateferramenta | 4.2/5 | O Replicate é aonde um desenvolvedor vai para testar um novo modelo de imagem ou vídeo hoje à tarde, e onde a conta começa a doer quando um modelo roda o dia inteiro. | Desenvolvedores que adicionam geração de imagem, vídeo ou áudio a um app sem operar as próprias GPUs. | Pagamento por saída (por exemplo, FLUX 1.1 Pro US$ 0,04/imagem, FLUX Schnell US$ 3 por 1.000 imagens) ou por segundo de hardware: T4 US$ 0,81/hora, L40S US$ 3,51/hora, A100 80GB US$ 5,04/hora, H100 US$ 5,49/hora, 8x H100 US$ 43,92/hora. Nenhum plano gratuito listado; descontos por volume para gastos altos. |
| Google Agent Platform (Vertex AI)ferramenta | 4.2/5 | O Gemini chega aqui primeiro e o Claude divide a mesma fatura, mas dois preços de lançamento dobram em dez semanas e a mudança de nome do Google partiu a documentação em duas. | Equipes no Google Cloud, ou qualquer um que esteja padronizando no Gemini, que querem controles corporativos e o Claude em uma só conta. | Por 1M de tokens, p. ex. Gemini 3.8 Flash $0.75 de entrada / $3.75 de saída (até 31 dez. 2026, depois $1.50 / $7.50), Gemini 4 Argon $2 / $10 (até 30 nov. 2026, depois $4 / $20), Gemini 3.1 Pro Preview $2 / $12, Claude Sonnet 5.5 $2 / $10. Endpoints não globais custam 10% a mais; lote pela metade do preço. Provisioned throughput de $2.74 a $7.14 por GSU-hora, conforme o prazo. |
| InsForgerepositório | 3.8/5 | Uma aposta sensata de que os agentes precisam de um backend que possam inspecionar e alterar sozinhos, contida por enquanto pela juventude do projeto e pela dependência do Vercel e do OpenRouter em duas de suas partes. | Desenvolvedores solo e equipes pequenas que deixam um agente de programação construir protótipos full-stack e querem que o agente também gerencie o backend. | Apache 2.0 e gratuito para auto-hospedar. InsForge Cloud: Free; Pro a US$ 25/mês ou US$ 20/mês no plano anual, mais computação a partir de US$ 5/mês por projeto, com crédito mensal de US$ 10; Enterprise sob medida. |
Lado a lado
As especificações que importam nesta etapa. Verificadas em 23 de out. de 2026; confirme no site do fornecedor antes de decidir.
| Ferramenta | Tipo | Base de cobrança | Traga o seu próprio modelo | H100 sob demanda | Residência de dados / conformidade |
|---|---|---|---|---|---|
| Hugging Face | Hub + Inference Endpoints | Por hora (endpoints), por token (roteador) | Sim, qualquer modelo do Hub | A partir de $4,50/hora | Não publicado |
| Modal | GPU serverless (SDK em Python) | Por segundo de computação | Sim, qualquer código Python | Cerca de $3,95/hora | Fixação de região a 1,15x–1,75x |
| fal | API de modelos de mídia + GPUs | Por resultado ou por hora de GPU | Sim, em GPUs alugadas | $4,50/hora de tabela, a partir de $2,49 | Não publicado |
| Runpod | Nuvem de GPU: pods + serverless | Por segundo (serverless), por hora (pods) | Sim, qualquer contêiner | $2,69–$3,99/hora (pods) | 31 regiões; SOC 2, HIPAA (Secure Cloud) |
| Amazon Bedrock | Serviço de modelos de hyperscaler | Por token ou provisionado por hora | Limitado (Llama, Mistral, Flan) | Não se aplica | Regiões da AWS; elegível para HIPAA |
| Baseten | GPUs dedicadas + Model APIs | GPU por minuto ou por token | Sim | Cerca de $6,50/hora | O Enterprise pode rodar na sua nuvem |
| Replicate | Marketplace de modelos + Cog | Por resultado ou por segundo | Sim, empacotado com Cog | $5,49/hora | Não publicado |
| Google Agent Platform (Vertex AI) | Serviço de modelos de hyperscaler | Por token ou GSU provisionada | Tuning; modelos abertos no Model Garden | Não se aplica | Endpoints regionais por cerca de +10% |
Conecte ao seu agente
Servidores MCP que permitem que assistentes como Claude, ChatGPT e Cursor usem essas ferramentas diretamente.
Onde esta etapa se encaixa
- Converse com os seus documentos: começaríamos com Modal.
- Agente de atendimento ao cliente: começaríamos com AWS MCP Server.
- Assistente com memória de longo prazo: começaríamos com Cloudflare MCP Server.
- Pipeline de geração de imagens: começaríamos com fal, Replicate.
- Produção de vídeo: começaríamos com fal.
- Agente de voz: começaríamos com Modal.
- Processamento de documentos: começaríamos com AWS MCP Server.
- O seu próprio modelo com fine-tuning: começaríamos com Modal, Baseten.