Cerebras vs Groq vs SambaNova: onde rodar modelos abertos rápido e quanto custa

Se o seu produto faz uma pessoa esperar por um modelo, ou encadeia uma dúzia de chamadas antes de responder, três empresas vendem tokens de modelos abertos mais rápido do que as nuvens de GPU: Cerebras, Groq e SambaNova. As três construíram os próprios chips para isso. Elas diferem no que servem, no que cobram, em quanto você consegue comprar sem contrato e na estabilidade aparente da empresa por trás de cada uma. Este guia é para um time que está decidindo onde rodar modelos abertos em produção.

Cada número vem das nossas análises de Cerebras, Groq e SambaNova Cloud, das páginas dos próprios fornecedores ou da Artificial Analysis, que cronometra todos os provedores que servem o mesmo modelo; lemos tudo em 7 de novembro de 2026. Não usamos esses serviços nós mesmos.

Três chips, um mesmo problema

Um modelo de linguagem escreve um token por vez, e para cada token o chip precisa ler os pesos do modelo na memória. Numa GPU esses pesos ficam em memória de alta largura de banda (HBM) ao lado do processador, e movê-los, mais do que fazer as contas, costuma ser o que limita a velocidade com que a resposta chega a um usuário. Cada uma das três ataca essa etapa de um jeito.

• Cerebras: um chip do tamanho de um wafer. Fabricantes costumam cortar um wafer de silício em dezenas de chips separados. A Cerebras mantém o wafer inteiro como um único processador, então muito mais memória e capacidade de cálculo ficam no mesmo pedaço de silício e os dados não precisam passar de um chip para outro. O WSE-3 tem 4 trilhões de transistores e 900.000 núcleos em 46.225 mm², um quadrado de cerca de 21,5 cm de lado.
• Groq: memória no chip, tempo planejado com antecedência. A Language Processing Unit da Groq guarda os pesos em SRAM no próprio chip em vez de HBM: 230 MB por chip, com largura de banda que a Groq coloca acima de 80 TB/s, contra cerca de 8 TB/s da memória de uma GPU. O compilador agenda cada passo até o ciclo de clock, então nada espera por um cache. A contrapartida é que um chip guarda só uma fatia de um modelo grande, e cada modelo é espalhado por muitos chips interligados.
• SambaNova: uma linha de montagem reconfigurável. A Reconfigurable Dataflow Unit da SambaNova deixa o compilador estender um trecho inteiro do modelo pelo chip, de modo que os resultados passam de um passo ao seguinte sem ida e volta à memória. O SN40L combina 520 MiB de memória no chip com 64 GiB de HBM e até 1,5 TiB de memória DDR comum, o que permite a um sistema guardar muitos modelos e alternar entre eles rapidamente.

O que você compra é velocidade para cada usuário, não tokens mais baratos. Cada chip também exige trabalho de compilação próprio para cada modelo e, na nossa leitura, esse é um dos motivos de os três cardápios serem curtos.

Os mesmos modelos, lado a lado

Só um modelo está nas três APIs compartilhadas: o gpt-oss-120b, da OpenAI. Isso faz dele a comparação mais justa, com as duas nuvens de GPU que analisamos como referência. A velocidade de saída é o número principal da Artificial Analysis: tokens por segundo ao longo de toda a requisição, na média de prompts curtos, médios e longos nos cinco dias anteriores. Como o gpt-oss-120b raciocina antes de responder, a última coluna, o tempo até o primeiro token da resposta em si, fica mais perto do que o usuário sente.

gpt-oss-120b na	Entrada $/1M	Saída $/1M	Velocidade de saída (tokens/s)	Primeiro token (s)	Primeiro token da resposta (s)
Cerebras	US$ 0,35	US$ 0,75	1.347	0,65	2,26
Groq	US$ 0,15	US$ 0,60	338	1,02	4,90
SambaNova	US$ 0,22	US$ 0,59	417	2,56	6,74
Together AI	US$ 0,15	US$ 0,60	65	1,53	46,23
Fireworks AI	US$ 0,15	US$ 0,60	Não medido	Não medido	Não medido

Os preços são a tabela de cada fornecedor (Cerebras, Groq, SambaNova, Fireworks e nossa análise da Together AI); as velocidades são da Artificial Analysis, consultada em 7 de novembro de 2026. A Artificial Analysis não lista a Fireworks para este modelo.

Três coisas chamam a atenção. A Cerebras é de três a quatro vezes mais rápida que a Groq ou a SambaNova e começa antes, mas cobra mais que o dobro do preço de entrada da Groq. A SambaNova escreve mais rápido que a Groq depois que engrena, mas leva mais que o dobro do tempo da Groq para produzir o primeiro token, o que pesa em tudo o que é falado em voz alta. E os números dos próprios fornecedores são maiores que os medidos: a documentação da Cerebras fala em cerca de 3.000 tokens por segundo e a da Groq em cerca de 500, em parte porque a Artificial Analysis conta a requisição inteira, incluindo a espera pelo primeiro token.

A Artificial Analysis também verifica se as respostas de cada provedor batem com a versão de referência da OpenAI. A SambaNova marca 98,5%, a Cerebras 91,8%, a Groq 90,3% e a Together AI 81,1%. As margens em torno dessas notas são largas (a da Groq vai de 82,7% a 97,9%), então leia-as como um motivo para testar seus próprios prompts, não como um ranking.

As outras sobreposições são parciais:

Modelo	Onde	Entrada / saída, $ por 1M	Velocidade (tokens/s)	Primeiro token (s)
Qwen 3.8 27B	Cerebras	US$ 0,99 / US$ 1,49	cerca de 1.850 (fornecedor)	Não medido
Qwen 3.8 27B	Groq (preview)	US$ 0,80 / US$ 4,00	cerca de 450 (fornecedor)	Não medido
Llama 3.3 70B	Groq (só Enterprise)	Falar com vendas	211	1,34
Llama 3.3 70B	SambaNova	US$ 0,60 / US$ 1,20	121	1,13
GLM-5.3	SambaNova	US$ 2,80 / US$ 8,80	Não medido	Não medido
GLM-5.3	Together AI	US$ 1,40 / US$ 4,40	159	1,08
GLM-5.3	Fireworks AI (nível Fast)	US$ 2,10 / US$ 6,60	207	1,53

Os números medidos vêm das páginas da Artificial Analysis para Llama 3.3 70B e GLM-5.3; "fornecedor" significa a documentação do próprio fornecedor. O nível padrão do GLM-5.3 na Fireworks custa US$ 1,40 e US$ 4,40. As linhas do GLM-5.3 trazem um alerta: a SambaNova cobra o dobro da Together AI por ele, e a Artificial Analysis não tem nenhuma medição do GLM-5.3 da SambaNova que mostre o que esse adicional compra.

Quanto custa um mês

Pegue uma carga de produção de 2 bilhões de tokens de entrada e 500 milhões de saída por mês no gpt-oss-120b. Pelo preço de tabela, ela custa cerca de US$ 1.075 na Cerebras, US$ 735 na SambaNova e US$ 600 na Groq, na Together AI ou na Fireworks AI. Se o trabalho pode esperar, o modo batch da Fireworks tem 50% de desconto, o que leva a cerca de US$ 300, e o desconto de batch da Together AI vai até 50%.

Os limites que doem em produção

Tabelas de preço escondem os tetos que decidem se você consegue mesmo colocar no ar.

• Cerebras. O crédito de teste de US$ 5 dura 30 dias, permite 5 requisições por minuto e corta o contexto para 65k tokens; quando acaba, o acesso para até você comprar créditos. O pagamento por uso permite 1.000 requisições e 1 milhão de tokens sem cache por minuto no gpt-oss-120b, sem teto diário, mas o Qwen 3.8 27B fica em 300 requisições por minuto. O contexto é de 131k tokens no gpt-oss-120b. Qualquer coisa além dos dois modelos compartilhados exige Dedicated Inference e um contrato.
• Groq. O plano gratuito permite 30 requisições por minuto, 1.000 por dia e 8.000 tokens por minuto nos modelos principais. Os limites pagos só aparecem no seu console e não são publicados. O gpt-oss-120b tem contexto de 131.072 tokens e limita a saída a 65.536 tokens; o preview do Qwen limita a 16.384. Os dois modelos Llama são só Enterprise.
• SambaNova. O nível gratuito permite 20 requisições por dia por modelo. Com cartão, o nível Developer permite 60 requisições por minuto e 12.000 por dia na maioria dos modelos, e 20 milhões de tokens por dia no total. A carga acima precisa de cerca de 83 milhões de tokens por dia, quatro vezes esse teto, então exige uma assinatura Enterprise sob cotação. O Llama 3.3 70B limita cada resposta a 3.072 tokens.

As três marcam alguns modelos como "preview" e avisam que podem ser retirados com pouco aviso. A documentação da SambaNova e sua lista de modelos ao vivo não batiam no dia em que verificamos, então teste contra o endpoint da lista de modelos, não contra a documentação.

O que acontece com seus dados

• Cerebras diz que não guarda prompts, requisições nem respostas da API de inferência, embora as entradas do cache de prompts durem de 5 minutos a uma hora. Um relatório SOC 2 Type 2 e um acordo de processamento de dados (DPA) estão disponíveis sob pedido; o DPA cobre contas empresariais.
• Groq não guarda entradas e saídas por padrão, mas pode registrá-las por até 30 dias para confiabilidade e combate a abuso, a menos que você ative o Zero Data Retention, o que qualquer cliente pode fazer. Ela lista relatórios SOC 2 Type II e oferece um adendo de associado comercial HIPAA. Arquivos de batch ficam guardados por até 30 dias, a menos que sejam apagados.
• SambaNova diz na página do produto que nunca coleta seus prompts, mas seu contrato de licença não define prazo de retenção e permite usar logs de consultas para melhorar o serviço, e não encontramos relatório SOC 2 público. Para os casos mais rígidos, ela vende o mesmo hardware para o seu próprio data center como SambaStack, com instalações isoladas da rede desde março de 2026.

Para dados de saúde ou outros dados regulados, a Groq é a mais fácil das três de aprovar com base em documentos publicados. Para dados que não podem sair do seu prédio, a SambaNova vende o hardware da sua nuvem como produto padrão para instalação local.

Onde cada uma vence

Agentes que encadeiam muitas chamadas: Cerebras

Com 1.347 tokens por segundo e 0,65 segundo até o primeiro token, a Cerebras encurta cada passo de um agente de programação ou de pesquisa, e dezenas de passos por tarefa somam minutos economizados. 1.000 requisições por minuto no pagamento por uso raramente são o gargalo. Você paga por isso: mais que o dobro do preço de entrada da Groq e só dois modelos na API compartilhada.

Voz: Groq

Um agente de telefone precisa ouvir, pensar e responder antes que quem ligou perceba uma pausa. A Groq vende transcrição com Whisper large-v3-turbo a US$ 0,04 por hora de áudio ao lado do gpt-oss-20b, que a Artificial Analysis mede em 630 tokens por segundo por US$ 0,075 de entrada e US$ 0,30 de saída, então um fornecedor e um contrato cobrem as duas metades. Some o BAA e o Zero Data Retention, e a Groq é a escolha prática para centrais de atendimento.

Uma segunda fonte mais barata de gpt-oss rápido: SambaNova

A SambaNova fica entre as outras duas em preço e velocidade no gpt-oss-120b, tem a melhor nota de precisão nas respostas e serve modelos que nenhuma rival oferece, como o GLM-5.3 e o MiniMax-M3.1-Flash com contexto de 1 milhão de tokens. Os limites pequenos de autoatendimento fazem dela uma reserva, não a principal, a menos que você compre o hardware.

Custo de batch e escolha de modelos: uma nuvem de GPU

Nenhuma das três é a opção barata para trabalho que ninguém está esperando. Together AI e Fireworks AI igualam o preço da Groq para o gpt-oss-120b, cortam até metade em batch, têm listas de modelos bem mais longas, fazem fine-tuning para você e alugam GPUs dedicadas (uma H100 custa US$ 5,49 por hora na Together AI e US$ 8 na Fireworks). Se você precisa de um modelo aberto específico, de um fine-tuning ou de vazão constante para muitos usuários em vez de velocidade para um, uma nuvem de GPU é a melhor compra. Hospedar por conta própria com vLLM ou SGLang vence com volume alto e constante, como explica nosso guia de serviço de inferência.

Dependência e risco de fornecimento

Trocar é barato no código. As três falam o formato de chat da OpenAI, então mudar é sobretudo uma URL base e um nome de modelo, e o OpenRouter lista as três como provedoras do gpt-oss-120b. As diferenças estão nos detalhes: a Groq rejeita logprobs e logit_bias, e a Cerebras limita n a 1 e não combina ferramentas com um esquema de resposta no gpt-oss-120b. Teste exatamente os parâmetros que o seu código envia.

O risco maior são as empresas, e 2026 mexeu com as três.

• Cerebras abriu capital na Nasdaq em maio de 2026 e fechou em janeiro um contrato de computação com a OpenAI de mais de US$ 10 bilhões. No fim de setembro, a consultoria SemiAnalysis relatou que o modo Ultrafast do GPT-6.1 Sol da OpenAI roda em GPUs da Nvidia, não na Cerebras; as ações caíram quase 20% em uma semana, para um valor de pouco mais de US$ 39 bilhões contra US$ 95 bilhões no fechamento do primeiro pregão, segundo a CNBC. A Oracle planeja oferecer a inferência da Cerebras na sua nuvem em 2027. Os planos de preço fixo Cerebras Code aparecem como esgotados.
• Groq licenciou sua tecnologia de chips para a Nvidia por cerca de US$ 20 bilhões em dezembro de 2025, e a Nvidia contratou o fundador e boa parte da equipe de engenharia. A Groq agora roda hardware da Nvidia ao lado do próprio como Nvidia Cloud Partner, captou US$ 350 milhões com avaliação de US$ 3,5 bilhões em agosto e busca uma nova rodada a US$ 8 bilhões, segundo a Bloomberg em 6 de novembro. O GroqCloud deve continuar funcionando; se continuará sendo um serviço em LPU é menos certo.
• SambaNova abandonou o treinamento de IA em abril de 2025 e demitiu 77 pessoas, cerca de 15% do quadro. A Intel discutiu comprá-la por cerca de US$ 1,6 bilhão no fim de 2025; em vez disso, entrou numa rodada de US$ 350 milhões em fevereiro de 2026, e em julho a SambaNova captou US$ 1 bilhão com avaliação de US$ 11 bilhões, com o chip SN50 previsto para o segundo semestre de 2026.

Pesos abertos são o seu seguro. Um time no gpt-oss-120b pode trocar entre os cinco provedores da primeira tabela mudando uma URL e um nome de modelo; um time que constrói sobre um modelo que só um fornecedor rápido serve não pode.

Uma configuração inicial

1. O tráfego padrão numa nuvem de GPU. gpt-oss-120b ou o modelo aberto de que você precisa na Together AI ou na Fireworks AI, com batch para tudo o que não for em tempo real.
2. As chamadas sensíveis a latência num chip rápido. Passos de agente na Cerebras, voz na Groq, pelo mesmo cliente da OpenAI ou pelo OpenRouter.
3. Uma reserva configurada. SambaNova para o gpt-oss-120b, para que uma queda ou um limite de taxa num fornecedor não derrube o seu produto.
4. Uma revisão mensal. Preços, rótulos de preview e listas de modelos mudam com frequência nas três; releia tudo e refaça seus próprios testes de qualidade depois de qualquer troca.

O porém: os números de velocidade vêm de um único serviço de benchmark que envia sobretudo requisições isoladas de um só lugar, e dizem pouco sobre como um provedor se comporta no seu pico de carga. Os números dos fornecedores são mais altos, os medidos mudam de semana para semana e só um modelo está nos três cardápios. Use as tabelas como lista curta e depois rode seus próprios prompts no seu próprio volume antes de assinar qualquer coisa.

Nossa opinião: os fornecedores de chips rápidos são o caixa rápido do supermercado. Valem a pena quando alguém espera com poucos itens e um trem para pegar, e são desperdício para a compra do mês. Mande para a Cerebras ou a Groq as chamadas que alguém está esperando, mantenha a SambaNova como segundo caixa e como opção de hardware próprio, e deixe uma nuvem de GPU carregar todo o resto.