O que é Bifrost?
O Bifrost é um gateway de LLM de código aberto escrito em Go pela Maxim AI, a empresa por trás da plataforma de avaliação e observabilidade Maxim. Ele roda como um único serviço HTTP com interface web, ou como biblioteca Go, e dá às aplicações uma única API compatível com OpenAI na frente de OpenAI, Anthropic, Bedrock, Vertex AI, Azure, Groq, Mistral, Ollama, vLLM e outros; a matriz de suporte da documentação lista 32 provedores.
O build de código aberto cuida de fallbacks, balanceamento de carga entre chaves, cache semântico, um gateway MCP para servidores de ferramentas, métricas do Prometheus e chaves virtuais com orçamentos e limites de taxa por equipe ou cliente. Ele também oferece endpoints substitutos diretos para os SDKs da OpenAI, da Anthropic e do Google GenAI, então o código existente só muda a URL base.
O repositório inteiro é Apache 2.0. Um build Enterprise com licença separada acrescenta clustering, balanceamento de carga adaptativo, SSO com controle de acesso por funções, logs de auditoria, integração com cofre de segredos, guardrails e implantação em VPC, com teste de 14 dias e sem preço publicado.
Bifrost vale a pena?
O Bifrost é o desafiante mais sério do LiteLLM entre os gateways auto-hospedados, e seu argumento é a velocidade. O README relata 11 µs de latência adicional por requisição a um ritmo sustentado de 5,000 requisições por segundo em uma AWS t3.xlarge, e 59 µs em uma t3.medium. A página de comparação da Maxim vai além: a 500 requisições por segundo em uma t3.medium, ela mostra o Bifrost concluindo 100% das requisições contra 88.78% do LiteLLM, com latência P99 de 1.68 segundo contra 90.72. São testes do próprio fornecedor, e os gráficos de comparação são simulados a partir de distribuições medidas. O projeto é jovem, criado em março de 2025, mas movimentado: cerca de 9,100 estrelas e uma versão do gateway, a v2.3.2, em 20 de outubro de 2026.
A licença é mais limpa que a do LiteLLM. O repositório inteiro é Apache 2.0, sem pasta comercial, e a documentação coloca no build de código aberto chaves virtuais, orçamentos em dólares com renovação de diária a anual, limites de tokens e de requisições e hierarquias de equipes e clientes. A linha fica borrada em outros pontos: a página enterprise lista governança e guardrails como recursos pagos, enquanto a descrição do código aberto reivindica os dois, e o README diz que as implantações enterprise acrescentam o gateway MCP que a documentação também apresenta como padrão. Clustering e balanceamento de carga adaptativo são claramente pagos, o que importa para quem planeja alta disponibilidade.
O ponto fraco são os padrões de segurança. A autenticação de gerenciamento vinha desligada por padrão, e a imagem Docker oficial escuta em todas as interfaces, então qualquer um que alcançasse a porta podia administrar o gateway. Em setembro de 2026, a JFrog divulgou o CVE-2026-90898 (alerta GHSA-86gf-xh3g-rvxq no GitHub), com nota 9.8 de 10 tanto no registro do NVD quanto no alerta: uma única requisição sem autenticação podia registrar um servidor MCP stdio e rodar comandos dentro do contêiner. Ele foi corrigido nos transports v2.1.0, lançados em 8 de setembro; o The Hacker News relata que a Maxim considera a falha de baixa gravidade, enquanto a JFrog recomenda tratar qualquer instância exposta como comprometida e trocar todas as chaves. Dois alertas de alta gravidade estão ao lado dele, uma falha de execução de código no carregamento de plugins em builds com linkagem dinâmica e um filtro de SSRF incompleto em julho. O guia de configuração agora exige um token de configuração para a primeira conta de administrador e avisa que uma instância nova não tem senha.
A cobertura é a outra lacuna. A documentação lista 32 provedores contra mais de 100 do LiteLLM, o README ainda diz 23+, e a descrição do repositório reivindica mais de 10,000 modelos, o que conta modelos, não integrações. Não há biblioteca Python, só um SDK em Go. Quase todos os artigos de Bifrost contra LiteLLM na internet são publicados pela Maxim ou por funcionários dela; a única opinião independente que encontramos, um comentário no Hacker News do fim de 2025, o chamou de "rápido, mas com muitos recursos atrás de paywall". A vantagem de velocidade é real nos números do fornecedor, mas importa sobretudo a milhares de requisições por segundo: na mesma tabela do README, o tempo médio de requisição incluindo o provedor foi de 1.61 segundo, contra 11 µs de overhead do gateway.
Onde ele se destaca
Um engenheiro de plataforma cujo gateway em Python precisa de uma frota de nós no pico
Servir alguns milhares de requisições por segundo com menos instâncias de gateway
A Maxim relata 5,000 requisições por segundo com 100% de sucesso em uma t3.medium de 2 vCPUs e 4 GB, com pico de cerca de 1.3 GB de memória. Rode o seu próprio teste de carga com o guia de benchmark publicado antes de redimensionar, e apoie várias instâncias em PostgreSQL 16 ou posterior.
Uma equipe de backend que escreve serviços em Go
Chamar vários provedores com fallbacks sem rodar um proxy separado
go get github.com/maximhq/bifrost/core embute o roteador no serviço, então não há salto extra de rede nem gateway para proteger. A contrapartida é perder a interface web e o acompanhamento compartilhado de gastos que um gateway central oferece.
Uma gerente de engenharia em uma empresa de 60 pessoas com três equipes de produto
Dar a cada equipe a própria chave e orçamento mensal sem comprar uma licença enterprise
Criar uma chave virtual por equipe com um orçamento em dólares renovado mensalmente e limites de requisições, tudo no build de código aberto. SSO para o painel, logs de auditoria e clustering exigem o Enterprise, que tem teste de 14 dias e preço não publicado.
Uma equipe que constrói agentes que chamam ferramentas internas
Registrar servidores MCP uma vez e controlar quais chaves podem usar quais ferramentas
Adicionar clientes MCP no gateway e filtrar as ferramentas por chave virtual. Ligue primeiro a autenticação de gerenciamento e rode a v2.1.0 ou posterior: o registro de MCP stdio foi o caminho da falha com nota 9.8.
Antes de decidir
- Configuração
- npx -y @maximhq/bifrost ou docker run -p 8080:8080 maximhq/bifrost inicia o gateway e a interface web na porta 8080, o que, segundo o README, leva menos de um minuto; configuração e logs usam por padrão SQLite no diretório do app, com PostgreSQL 16+ para produção, além de Helm charts e Terraform no repositório.
- Integrações
- API compatível com OpenAI, mais endpoints substitutos diretos para os SDKs da OpenAI, Anthropic, Bedrock e GenAI; 32 provedores na documentação; gateway MCP; Prometheus e OpenTelemetry; um plugin para o próprio produto de observabilidade da Maxim; um SDK em Go.
- Dados e privacidade
- Auto-hospedado, então os prompts vão apenas para os provedores que você configurar; não encontramos na documentação nenhum envio de dados de uso à Maxim, e o plugin de telemetria serve métricas do Prometheus localmente. O registro de conteúdo pode ser desligado por chave. Um alerta crítico e dois de alta gravidade foram publicados em 2026; a autenticação de gerenciamento precisa ser ativada manualmente.
- Custo em escala
- O teste do fornecedor com 5,000 requisições por segundo rodou em uma t3.medium (2 vCPUs, 4 GB) e em uma t3.xlarge (4 vCPUs, 16 GB), esta com pico de 3.3 GB de memória. Rodar mais de um nó com estado compartilhado significa PostgreSQL; o clustering peer-to-peer é Enterprise, com preço sob consulta.
- Limites
- 550 issues e 823 pull requests abertos; versões frequentes com migrações de banco de dados; as migrações do PostgreSQL podem falhar atrás do PgBouncer em modo de transação ou do RDS Proxy; sem SDK Python; menos provedores que o LiteLLM.
O que é bom
- Apache 2.0 em todo o repositório
- Chaves virtuais, orçamentos e limites de taxa no build gratuito
- Overhead de 11 µs a 5,000 requisições por segundo (benchmark do fornecedor)
- Endpoints substitutos diretos para os SDKs da OpenAI, Anthropic e GenAI
O que não é
- API de administração sem autenticação por padrão antes da v2.1.0; falha com CVSS 9.8
- 32 provedores contra mais de 100 do LiteLLM
- Clustering e balanceamento de carga adaptativo só no Enterprise
- A maioria das comparações na internet é escrita pelo fornecedor
Ideal para
Equipes com grandes volumes de requisições, ou empresas que trabalham em Go, que querem um gateway com licença Apache e orçamentos e estão dispostas a blindar a API de administração.
Alternativas ao Bifrost
Bifrost: perguntas frequentes
- Bifrost vale a pena?
- Um gateway rápido, com licença Apache e orçamentos no build gratuito, prejudicado por um padrão de segurança que deixou a API de administração aberta até setembro de 2026. Damos nota 3.9 de 5.
- Quanto custa Bifrost?
- Gratuito e de código aberto sob Apache 2.0. O Enterprise tem preço sob consulta, com teste gratuito de 14 dias; o preço não é publicado.
- Quais são as desvantagens de Bifrost?
- API de administração sem autenticação por padrão antes da v2.1.0; falha com CVSS 9.8; 32 provedores contra mais de 100 do LiteLLM; clustering e balanceamento de carga adaptativo só no Enterprise; a maioria das comparações na internet é escrita pelo fornecedor.
- Para quem Bifrost é indicado?
- Equipes com grandes volumes de requisições, ou empresas que trabalham em Go, que querem um gateway com licença Apache e orçamentos e estão dispostas a blindar a API de administração.
- Quanto custa Bifrost para uma equipe ou em produção?
- O teste do fornecedor com 5,000 requisições por segundo rodou em uma t3.medium (2 vCPUs, 4 GB) e em uma t3.xlarge (4 vCPUs, 16 GB), esta com pico de 3.3 GB de memória. Rodar mais de um nó com estado compartilhado significa PostgreSQL; o clustering peer-to-peer é Enterprise, com preço sob consulta.
- Bifrost é seguro para dados da empresa?
- Auto-hospedado, então os prompts vão apenas para os provedores que você configurar; não encontramos na documentação nenhum envio de dados de uso à Maxim, e o plugin de telemetria serve métricas do Prometheus localmente. O registro de conteúdo pode ser desligado por chave. Um alerta crítico e dois de alta gravidade foram publicados em 2026; a autenticação de gerenciamento precisa ser ativada manualmente.
- Quais são as melhores alternativas ao Bifrost?
- As alternativas mais próximas que analisamos são LiteLLM, Portkey AI Gateway e vLLM Semantic Router.
Respostas verificadas em 26 de out. de 2026.