Bifrostとは？
Bifrost は、評価とオブザーバビリティのプラットフォーム Maxim を手がける Maxim AI が Go で書いた、オープンソースの LLM ゲートウェイです。Web UI 付きの単一の HTTP サービスとして、または Go のライブラリとして動き、アプリケーションに OpenAI、Anthropic、Bedrock、Vertex AI、Azure、Groq、Mistral、Ollama、vLLM などの前に立つ OpenAI 互換の API を一つ提供します。ドキュメントの対応表には 32 のプロバイダーが載っています。
オープンソース版は、フォールバック、キー間の負荷分散、セマンティックキャッシュ、ツールサーバー向けの MCP ゲートウェイ、Prometheus のメトリクス、チームや顧客ごとの予算とレート制限を持つ仮想キーを扱います。OpenAI、Anthropic、Google GenAI の各 SDK 向けにそのまま差し替えられるエンドポイントもあるので、既存のコードはベース URL を変えるだけで済みます。
リポジトリ全体が Apache 2.0 です。別ライセンスの Enterprise 版は、クラスタリング、適応型の負荷分散、ロールベースのアクセス制御付きの SSO、監査ログ、Vault との連携、ガードレール、VPC へのデプロイを追加し、14 日間の試用があり、価格は公表されていません。
Bifrostは使う価値があるか？
Bifrost はセルフホスト型ゲートウェイの中で LiteLLM に対する最も本格的な挑戦者で、その主張は速度にかかっています。README によると、AWS の t3.xlarge で毎秒 5,000 リクエストを持続させたときのリクエストあたりの追加レイテンシーは 11 µs、t3.medium では 59 µs です。Maxim の比較ページはさらに踏み込み、t3.medium で毎秒 500 リクエストのとき、Bifrost はリクエストの 100% を完了し、LiteLLM は 88.78% だったとし、P99 のレイテンシーは 1.68 秒対 90.72 秒と示しています。これらはベンダー自身のテストで、比較グラフは測定した分布からシミュレーションしたものです。2025 年3月に作られた若いプロジェクトですが活発で、スターは約 9,100、ゲートウェイのリリース v2.3.2 は 2026年10月20日に出ました。
ライセンスは LiteLLM より明快です。リポジトリ全体が Apache 2.0 で、商用フォルダーはありません。ドキュメントは、仮想キー、日次から年次までリセットできるドル建ての予算、トークンとリクエストの制限、チームと顧客の階層をオープンソース版に含めています。境界が曖昧なところもあります。Enterprise のページはガバナンスとガードレールを有料機能としていますが、オープンソースの説明はその両方をうたっています。README は Enterprise のデプロイメントで MCP ゲートウェイが加わるとしていますが、ドキュメントはそれを標準機能として示しています。クラスタリングと適応型の負荷分散は明確に有料で、高可用性を計画する人にとっては重要です。
弱点はセキュリティの既定値です。管理用の認証は既定でオフで、公式の Docker イメージはすべてのインターフェースにバインドするため、ポートに到達できる人なら誰でもゲートウェイを管理できました。2026年9月、JFrog は CVE-2026-90898（GitHub アドバイザリ GHSA-86gf-xh3g-rvxq）を公開しました。深刻度は NVD の記録でもアドバイザリでも 10 点中 9.8 で、認証なしのリクエスト一つで stdio の MCP サーバーを登録し、コンテナ内でコマンドを実行できるというものでした。9月8日にリリースされた transports v2.1.0 で修正されています。The Hacker News によると Maxim はこの欠陥を低深刻度と見なしていますが、JFrog は公開状態にあったインスタンスはすべて侵害されたものとして扱い、すべてのキーをローテーションするよう勧めていま す。そのほかに深刻度の高いアドバイザリが 2 件あり、動的リンクのビルドでのプラグイン読み込みによるコード実行の欠陥と、7 月の不完全な SSRF フィルターです。セットアップガイドは現在、最初の管理者アカウントにセットアップトークンを要求し、新しいインスタンスにはパスワードがないと警告しています。
もう一つの穴は対応範囲です。ドキュメントには 32 のプロバイダーが載っているのに対し LiteLLM は 100+ で、README はいまだに 23+ としており、リポジトリの説明は 10,000+ のモデルをうたっていますが、これは連携の数ではなくモデルの数です。Python のライブラリはなく、Go の SDK だけです。ネット上の Bifrost と LiteLLM の比較記事はほぼすべて Maxim かその社員によるものです。私たちが見つけた唯一の独立した見解は 2025 年末の Hacker News のコメントで、「速いが多くの機能が有料」と評していました。速度の優位はベンダーの数字の上では本物ですが、主に意味を持つのは毎秒数千リクエストの規模です。同じ README の表では、プロバイダーを含む平均リクエスト時間が 1.61 秒だったのに対し、ゲートウェイのオーバーヘッドは 11 µs でした。
真価を発揮する場面
Python のゲートウェイがピーク時に多数のノードを必要としているプラットフォームエンジニア
より少ないゲートウェイのインスタンスで毎秒数千リクエストを処理する
Maxim は 2 vCPU、4 GB の t3.medium で毎秒 5,000 リクエストを 100% の成功率で処理し、メモリーのピークは約 1.3 GB だったと報告しています。規模を変える前に、公開されているベンチマークガイドで自分の負荷テストを行い、複数のインスタンスは PostgreSQL 16 以降で支えます。
Go でサービスを書くバックエンドチーム
別のプロキシを動かさずに、フォールバック付きで複数のプロバイダーを呼び出す
go get github.com/maximhq/bifrost/core でルーターをサービスに組み込めば、余計なネットワークのホップも、守るべきゲートウェイもありません。代わりに、中央のゲートウェイが提供する Web UI と共有の支出管理は失われます。
三つのプロダクトチームを持つ従業員 60 人の企業のエンジニアリングマネージャー
Enterprise のライセンスを買わずに、各チームに専用のキーと月の予算を与える
チームごとに、毎月リセットされるドル建ての予算とリクエストの制限を持つ仮想キーを作ります。すべてオープンソース版でできます。ダッシュボードの SSO、監査ログ、クラスタリングには Enterprise が必要で、14 日間の試用があり、価格は非公開です。
社内ツールを呼び出すエージェントを作る チーム
MCP サーバーを一度登録し、どのキーがどのツールを使えるかを制御する
ゲートウェイに MCP クライアントを追加し、仮想キーごとにツールを絞り込みます。まず管理用の認証をオンにし、v2.1.0 以降を使ってください。深刻度 9.8 の欠陥の経路は stdio の MCP の登録でした。
導入前に確認すること
- 導入
- npx -y @maximhq/bifrost か docker run -p 8080:8080 maximhq/bifrost で、ゲートウェイと Web UI がポート 8080 で起動します。README によると 1 分もかかりません。設定とログは既定でアプリのディレクトリの SQLite に保存され、本番には PostgreSQL 16+ を使います。リポジトリには Helm chart と Terraform もあります。
- 連携
- OpenAI 互換の API と、差し替え可能な OpenAI、Anthropic、Bedrock、GenAI SDK のエンドポイント。ドキュメントに載る 32 のプロバイダー。MCP ゲートウェイ。Prometheus と OpenTelemetry。Maxim 自身のオブザーバビリティ製品向けのプラグイン。Go の SDK。
- データとプライバシー
- セルフホストなので、プロンプトは設定したプロバイダーにだけ送られます。ドキュメントには Maxim への利用状況の報告は見当たらず、テレメトリーの プラグインは Prometheus のメトリクスをローカルで提供します。内容のログはキーごとにオフにできます。2026 年には重大なアドバイザリが 1 件、深刻度の高いアドバイザリが 2 件公開されました。管理用の認証は手動で有効にする必要があります。
- 大規模利用時のコスト
- ベンダーによる毎秒 5,000 リクエストのテストは t3.medium（2 vCPU、4 GB）と t3.xlarge（4 vCPU、16 GB）で行われ、後者のメモリーのピークは 3.3 GB でした。状態を共有して複数のノードを動かすには PostgreSQL が必要です。ピアツーピアのクラスタリングは Enterprise で、価格は問い合わせです。
- 制限
- 未解決の issue は 550 件、未処理のプルリクエストは 823 件です。データベースのマイグレーションを伴うリリースが頻繁にあります。トランザクションモードの PgBouncer や RDS Proxy の背後では PostgreSQL のマイグレーションが失敗することがあります。Python の SDK はありません。プロバイダーは LiteLLM より少ないです。
良い点
- リポジトリ全体が Apache 2.0 です
- 無料版に仮想キー、予算、レート制限があります
- 毎秒 5,000 リクエストで 11 µs のオーバーヘッド（ベンダーのベンチマーク）
- OpenAI、Anthropic、GenAI の SDK 向けに差し替え可能なエンドポイント
気になる点
- v2.1.0 より前は管理 API が既定で認証なしで、CVSS 9.8 の欠陥がありました
- プロバイダーは 32 で、LiteLLM の 100+ に及びません
- クラスタリングと適応型の負荷分散は Enterprise のみです
- ネット上の比較の大半はベンダーが書いたものです
おすすめの人
大量のリクエストを扱うチームや Go を使う開発組織で、予算管理付きの Apache ライセンスのゲートウェイを求め、管理 API の防御を固める用意があるところ。
Bifrostの代替
Bifrost：よくある質問
- Bifrostは使う価値があるか？
- 無料版に予算管理を備えた、高速で Apache ライセンスのゲートウェイです。ただし、2026年9月まで管理 API を開いたままにしていたセキュリティの既定値が足を引っ張っています。 評価は5点満点中3.9点です。
- Bifrostの料金は？
- Apache 2.0 の無料オープンソースです。Enterprise は個別見積もりで 14 日間の無料試用があり、価格は公表されていません。
- Bifrostの欠点は？
- v2.1.0 より前は管理 API が既定で認証なしで、CVSS 9.8 の欠陥がありました; プロバイダーは 32 で、LiteLLM の 100+ に及びません; クラスタリングと適応型の負荷分散は Enterprise のみです; ネット上の比較の大半はベンダーが書いたものです.
- Bifrostは誰に向いているか？
- 大量のリクエストを扱うチームや Go を使う開発組織で、予算管理付きの Apache ライセンスのゲートウェイを求め、管理 API の防御を固める用意があるところ。
- チームや本番環境でBifrostを使うと費用はいくらか？
- ベンダーによる毎秒 5,000 リクエストのテストは t3.medium（2 vCPU、4 GB）と t3.xlarge（4 vCPU、16 GB）で行われ、後者のメモリーのピークは 3.3 GB でした。状態を共有して複数のノードを動かすには PostgreSQL が必要です。ピアツーピアのクラスタリングは Enterprise で、価格は問い合わせです。
- Bifrostは企業データを扱っても安全か？
- セルフホストなので、プロンプトは設定したプロバイダーにだけ送られます。ドキュメントには Maxim への利用状況の報告は見当たらず、テレメトリーのプラグインは Prometheus のメトリクスをローカルで提供します。内容のログはキーごとにオフにできます。2026 年には重大なアドバイザリが 1 件、深刻度の高いアドバイザリが 2 件公開されました。管理用の認証は手動で有効にする必要があります。
- Bifrostの代わりになるものは？
- 当サイトでレビューした中で最 も近い代替はLiteLLM, Portkey AI Gateway 、 vLLM Semantic Routerです。
回答確認日：2026年10月26日