Cerebras、Groq、SambaNovaを比較：オープンモデルを速く動かす場所とそのコスト
執筆： Sheela ·
あなたの製品がモデルの応答を人に待たせているなら、あるいは回答までに十数回のモデル呼び出しを連鎖させているなら、GPUクラウドより速くオープンモデルのトークンを売る会社が3社あります。Cerebras、Groq、SambaNovaです。3社とも、そのために独自のチップを作りました。違いは、提供するモデル、価格、契約なしで買える量、そして各社の経営の安定度です。このガイドは、オープンモデルを本番環境でどこで動かすか決めようとしているチーム向けです。
以下の数字はすべて、Cerebras、Groq、SambaNova Cloudのレビュー、各社自身のページ、または同じモデルを提供する全プロバイダーを計測するArtificial Analysisによるもので、いずれも2026年11月7日に確認しました。私たち自身はこれらのサービスを使っていません。
3つのチップ、1つの課題
言語モデルはトークンを1つずつ書き、トークンごとにチップはモデルの重みをメモリから読み出す必要があります。GPUではこの重みがプロセッサ横の広帯域メモリ（HBM）に置かれ、計算そのものより重みの移動が、1人のユーザーに回答が届く速さを決めることがほとんどです。3社はこの段階にそれぞれ別の方法で取り組んでいます。
- Cerebras：ウェハーほどの大きさの1枚のチップ。チップメーカーは通常、シリコンウェハーを数十個のチップに切り分けます。Cerebrasはウェハー全体を1つのプロセッサとして残すため、はるかに多くのメモリと演算が同じシリコン上に載り、データがチップ間を移動する必要がありません。WSE-3は4兆個のトランジスタと900,000個のコアを46,225 mm²に収めています。1辺約21.5 cmの正方形です。
- Groq：チップ上のメモリと、事前に決めたタイミング。GroqのLanguage Processing Unitは重みをHBMではなくチップ上のSRAMに置きます。1チップあたり230 MBで、帯域幅はGroqによれば80 TB/s超、GPUメモリの約8 TB/sを大きく上回ります。コンパイラがすべての処理をクロックサイクル単位でスケジュールするため、キャッシュ待ちが発生しません。その代わり、1チップには大きなモデルのごく一部しか入らないため、各モデルは接続された多数のチップに分散されます。
- SambaNova：組み替えられる組立ライン。SambaNovaのReconfigurable Dataflow Unitでは、コンパイラがモデルのひとまとまりをチップ全体に配置し、結果がメモリを往復せずに次の処理へ流れます。SN40Lは520 MiBのオンチップメモリ、64 GiBのHBM、最大1.5 TiBの通常のDDRメモリを組み合わせており、1つのシステムで多数のモデルを保持し、素早く切り替えられます。
買っているのはユーザー1人あたりの速さであって、安いトークンではありません。また、どのチップもモデルごとに専用のコンパイル作業が必要で、私たちの見立てでは、それが3社ともモデルの品揃えが少ない理由の1つです。
同じモデルを並べて比べる
3社の共有APIすべてにあるモデルは1つだけ、OpenAIのgpt-oss-120bです。これが最も公平な比較になり、基準として私たちがレビューしたGPUクラウド2社も並べました。出力速度はArtificial Analysisの代表値で、リクエスト全体を通じた毎秒トークン数を、直近5日間の短・中・長のプロンプトで平均したものです。gpt-oss-120bは回答前に推論するため、最後の列、つまり実際の回答の最初のトークンまでの時間のほうが、ユーザーの体感に近くなります。
| gpt-oss-120bの提供元 | 入力 $/1M | 出力 $/1M | 出力速度（トークン/秒） | 最初のトークン（秒） | 回答の最初のトークン（秒） |
|---|---|---|---|---|---|
| Cerebras | $0.35 | $0.75 | 1,347 | 0.65 | 2.26 |
| Groq | $0.15 | $0.60 | 338 | 1.02 | 4.90 |
| SambaNova | $0.22 | $0.59 | 417 | 2.56 | 6.74 |
| Together AI | $0.15 | $0.60 | 65 | 1.53 | 46.23 |
| Fireworks AI | $0.15 | $0.60 | 未計測 | 未計測 | 未計測 |
価格は各社の定価です（Cerebras、Groq、SambaNova、Fireworks、およびTogether AIのレビュー）。速度はArtificial Analysisによるもので、2026年11月7日に確認しました。Artificial AnalysisはこのモデルについてFireworksを掲載していません。
目立つ点が3つあります。CerebrasはGroqやSambaNovaの3〜4倍速く、出だしも早い一方、入力価格はGroqの2倍以上です。SambaNovaは動き出せばGroqより速く書きますが、最初のトークンが出るまでにGroqの2倍以上かかり、声で話す用途ではこれが響きます。そして各社自身の数字は計測値より高くなっています。Cerebrasのドキュメントは毎秒約3,000トークン、Groqは約500としていますが、その一因はArtificial Analysisが最初のトークンまでの待ち時間を含めてリクエスト全体を数えていることです。
Artificial Analysisは、各社の回答がOpenAIの参照版と一致するかも調べています。SambaNovaは98.5%、Cerebrasは91.8%、Groqは90.3%、Together AIは81.1%でした。ただしスコアの幅は広く（Groqは82.7%から97.9%）、順位としてではなく、自分のプロンプトで試すべき理由として読んでください。
そのほかの重なりは部分的です。
| モデル | 提供元 | 入力 / 出力、100万トークンあたり$ | 速度（トークン/秒） | 最初のトークン（秒） |
|---|---|---|---|---|
| Qwen 3.8 27B | Cerebras | $0.99 / $1.49 | 約1,850（ベンダー値） | 未計測 |
| Qwen 3.8 27B | Groq（プレビュー） | $0.80 / $4.00 | 約450（ベンダー値） | 未計測 |
| Llama 3.3 70B | Groq（Enterpriseのみ） | 営業に問い合わせ | 211 | 1.34 |
| Llama 3.3 70B | SambaNova | $0.60 / $1.20 | 121 | 1.13 |
| GLM-5.3 | SambaNova | $2.80 / $8.80 | 未計測 | 未計測 |
| GLM-5.3 | Together AI | $1.40 / $4.40 | 159 | 1.08 |
| GLM-5.3 | Fireworks AI（Fast階層） | $2.10 / $6.60 | 207 | 1.53 |
計測値はArtificial AnalysisのLlama 3.3 70BとGLM-5.3のページによります。「ベンダー値」はプロバイダー自身のドキュメントの数字です。FireworksのGLM-5.3標準階層は$1.40と$4.40です。GLM-5.3の行には注意すべき点があります。SambaNovaはTogether AIの2倍の価格をつけていますが、Artificial AnalysisにはSambaNovaのGLM-5.3の計測値がなく、その上乗せ分で何が得られるのか示されていません。
1か月のコスト
gpt-oss-120bで月に入力20億トークン、出力5億トークンの本番負荷を考えます。定価では、Cerebrasで約$1,075、SambaNovaで$735、Groq、Together AI、Fireworks AIでは$600です。急がない処理なら、Fireworksのバッチ階層は50%引きで約$300になり、Together AIのバッチ割引も最大50%です。
本番で効いてくる制限
価格表には、実際にリリースできるかを左右する上限が書かれていません。
- Cerebras。$5の試用クレジットは30日間有効で、毎分5リクエストまで、コンテキストは65kトークンに縮小されます。終了するとクレジットを購入するまでアクセスが止まります。従量課金ではgpt-oss-120bで毎分1,000リクエスト、キャッシュなし100万トークンまで使え、1日の上限はありませんが、Qwen 3.8 27Bは毎分300リクエストのままです。gpt-oss-120bのコンテキストは131kトークンです。共有モデル2つ以外はDedicated Inferenceと契約が必要です。
- Groq。無料プランは主要モデルで毎分30リクエスト、1日1,000リクエスト、毎分8,000トークンです。有料プランの上限はコンソールにしか表示されず、公開されていません。gpt-oss-120bのコンテキストは131,072トークン、出力上限は65,536トークンで、Qwenのプレビューは出力16,384トークンまでです。Llamaの2モデルはどちらもEnterprise専用です。
- SambaNova。無料枠はモデルごとに1日20リクエストです。カードを登録したDeveloper階層では、多くのモデルで毎分60リクエスト、1日12,000リクエスト、合計で1日2,000万トークンまでです。上の負荷は1日約8,300万トークンが必要で、上限の4倍にあたるため、見積もり制のEnterpriseサブスクリプションが必要になります。Llama 3.3 70Bは1回の回答を3,072トークンに制限しています。
3社とも一部のモデルを「プレビュー」とし、短い予告で取り下げる可能性があるとしています。確認した日、SambaNovaのドキュメントと実際のモデル一覧は一致していなかったため、ドキュメントではなくモデル一覧のエンドポイントで確かめてください。
データの扱い
- Cerebrasは、推論APIのプロンプト、リクエスト、出力を保持しないとしていますが、プロンプトキャッシュのエントリは5分から1時間残ります。SOC 2 Type 2レポートとデータ処理契約（DPA）は申請により提供され、DPAの対象は法人アカウントです。
- Groqは既定では入力と出力を保存しませんが、信頼性と不正利用監視のために最大30日間ログを残すことがあります。Zero Data Retentionを有効にすればこれを止められ、どの顧客でも設定できます。SOC 2 Type IIレポートを掲載し、HIPAAのビジネスアソシエイト契約にも対応しています。バッチファイルは削除しない限り最大30日間保存されます。
- SambaNovaは製品ページでプロンプトを一切収集しないと述べていますが、ライセンス契約には保存期間の定めがなく、サービス改善のためにクエリログを使うことを認めており、公開されたSOC 2レポートも見つかりませんでした。最も厳しいケース向けには、同じハードウェアを自社データセンター用のSambaStackとして販売しており、2026年3月からはネットワークから隔離した設置にも対応しています。
医療などの規制対象データでは、公開資料から承認を得やすいのは3社のうちGroqです。建物の外に出せないデータについては、SambaNovaがクラウドと同じハードウェアをオンプレミス向けの標準製品として販売しています。
それぞれが勝つ場面
多数の呼び出しを連鎖させるエージェント：Cerebras
毎秒1,347トークン、最初のトークンまで0.65秒のCerebrasは、コーディングやリサーチのエージェントの各ステップを短くし、1タスクあたり数十ステップなら数分の短縮になります。従量課金の毎分1,000リクエストがボトルネックになることはまれです。代償は、Groqの2倍以上の入力価格と、共有APIにモデルが2つしかないことです。
音声：Groq
電話エージェントは、相手が間を感じる前に聞き取り、考え、答えなければなりません。GroqはWhisper large-v3-turboの文字起こしを音声1時間あたり$0.04で提供し、同時にgpt-oss-20bも入力$0.075、出力$0.30で提供しています。Artificial Analysisの計測では毎秒630トークンです。1社1契約で両方をまかなえます。BAAとZero Data Retentionも加えると、コンタクトセンターにはGroqが現実的な選択です。
高速なgpt-ossの安い2つ目の調達先：SambaNova
SambaNovaはgpt-oss-120bの価格と速度で他の2社の中間にあり、回答の精度スコアは最も高く、GLM-5.3やコンテキスト100万トークンのMiniMax-M3.1-Flashのように競合2社にないモデルも提供しています。セルフサービスの制限が小さいため、ハードウェアを買うのでなければ、主力ではなく予備向きです。
バッチのコストとモデルの選択肢：GPUクラウド
誰も待っていない処理なら、3社のどれも安い選択肢ではありません。Together AIとFireworks AIはgpt-oss-120bでGroqと同じ価格で、バッチなら最大半額になり、モデル一覧ははるかに長く、ファインチューニングも代行し、専用GPUも貸し出します（H100はTogether AIで1時間$5.49、Fireworksで$8）。特定のオープンモデル、ファインチューニング、あるいは1人分の速さより多数のユーザーへの安定したスループットが必要なら、GPUクラウドのほうがよい買い物です。安定した大量の負荷なら、vLLMやSGLangでの自前運用が有利だと、推論サービングのガイドで説明しています。
ロックインと供給リスク
コード上の乗り換えは簡単です。3社ともOpenAIのチャット形式に対応しているので、移行はほぼベースURLとモデル名の変更で済み、OpenRouterも3社すべてをgpt-oss-120bのプロバイダーとして掲載しています。差は細部にあります。Groqはlogprobsとlogit_biasを受け付けず、Cerebrasはnを1に制限し、gpt-oss-120bではツールとレスポンススキーマを併用できません。自分のコードが送るパラメーターをそのまま試してください。
より大きなリスクは会社そのものであり、2026年は3社すべてに動きがありました。
- Cerebrasは2026年5月にNasdaqに上場し、1月にはOpenAIと$10 billion超の計算資源契約を結びました。9月下旬、調査会社SemiAnalysisは、OpenAIのGPT-6.1 SolのUltrafastモードがCerebrasではなくNvidiaのGPUで動いていると報告しました。株価は1週間で20%近く下落し、時価総額は上場初日終値の$95 billionに対し$39 billion強になったとCNBCが報じています。Oracleは2027年に自社クラウドでCerebrasの推論を提供する計画です。定額のCerebras Codeプランは売り切れと表示されています。
- Groqは2025年12月、チップ技術を約$20 billionでNvidiaにライセンス供与し、Nvidiaは創業者とエンジニアリングチームの多くを採用しました。GroqはいまNvidia Cloud Partnerとして自社チップと並べてNvidiaのハードウェアも運用し、8月に評価額$3.5 billionで$350 millionを調達しました。さらに$8 billionでの新たな資金調達を目指していると、11月6日にBloombergが報じました。GroqCloudは今後も続きそうですが、LPUのサービスであり続けるかは不確かです。
- SambaNovaは2025年4月にAI学習から撤退し、従業員の約15%にあたる77人を解雇しました。Intelは2025年末に約$1.6 billionでの買収を協議しましたが、実際には2026年2月の$350 millionのラウンドに参加し、7月にはSambaNovaが評価額$11 billionで$1 billionを調達しました。SN50チップは2026年後半に出荷予定です。
オープンウェイトが保険になります。gpt-oss-120bを使うチームは、URLとモデル名を変えるだけで最初の表の5社の間を移れます。高速ベンダー1社しか提供していないモデルの上に作ったチームには、それができません。
最初の構成案
- 通常のトラフィックはGPUクラウドへ。gpt-oss-120bか必要なオープンモデルをTogether AIかFireworks AIで動かし、リアルタイムでない処理はバッチにします。
- 遅延に敏感な呼び出しは高速チップへ。エージェントのステップはCerebras、音声はGroqへ、同じOpenAIクライアントかOpenRouter経由で振り分けます。
- 予備を設定しておく。gpt-oss-120b用にSambaNovaを用意し、1社の障害やレート制限で製品が止まらないようにします。
- 毎月の確認。価格、プレビュー表示、モデル一覧は3社とも頻繁に変わります。読み直し、切り替えのたびに自分の品質チェックをやり直してください。
注意点：ここでの速度の数字は、主に単発のリクエストを1か所から送る1つのベンチマークサービスによるもので、あなたのピーク負荷でプロバイダーがどう振る舞うかはほとんどわかりません。ベンダー自身の数字はもっと高く、計測値は週ごとに変わり、3社すべてにあるモデルは1つだけです。表は候補を絞るためのものと考え、契約する前に自分のプロンプトを自分の規模で試してください。
結論：高速チップのベンダーは、スーパーのエクスプレスレジのようなものです。少しの品物を持って電車に急ぐ人にはありがたく、週末のまとめ買いには無駄です。誰かが待っている呼び出しはCerebrasかGroqへ、SambaNovaは2つ目のレジと自社ハードウェアの選択肢として確保し、それ以外はすべてGPUクラウドに任せましょう。