Groqとは?
GroqはGroqCloudというAPIを通じてAIモデルを動かしています。独自のチップであるLPU(Language Processing Unit)で名を上げ、モデルのドキュメントにはgpt-oss-20bが毎秒約1,000トークン、gpt-oss-120bが約500トークンと記載されています。
会社の形は変わりました。2025年12月、NVIDIAはGroqのチップ技術の非独占ライセンスに約200億ドルを支払い、創業者のJonathan Rossとエンジニアリングチームの多くを採用しました。新CEOのDoug Wightmanのもと、Groqは2026年8月にNVIDIA Cloud Partnerとなり、評価額35億ドルで3億5,000万ドルのシリーズAを調達して、自社のハードウェアとともにNVIDIAのハードウェアも動かす推論クラウドへと位置づけを変えました。
公開されているモデルの一覧は短く、OpenAIのgpt-ossモデル、Qwenのモデル1つ、音声認識のWhisper、いくつかの安全性と音声のモデルです。Llama 3.1 8BとLlama 3.3 70Bは今も本番用モデルとして記載されていますが、Enterprise専用です。
Groqの料金は?
| プラン | 価格 | 内容 |
|---|---|---|
| Free | Free | レート制限(gpt-oss-120bで毎分30リクエスト、1日1,000リクエスト) |
| gpt-oss-120b | $0.15 in / $0.60 out per 1M tokens | Developerプラン |
| gpt-oss-20b | $0.075 in / $0.30 out per 1M tokens | Developerプラン |
| qwen3.8-27b | $0.80 in / $4.00 out per 1M tokens | Developerプラン |
| Whisper large-v3-turbo | $0.04/hour of audio | Developerプラン |
レート制限付きの無料プラン(gpt-oss-120bで毎分30リクエスト、1日1,000リクエスト)があります。従量課金のDeveloperプランでは、100万トークンあたりgpt-oss-120bが入力$0.15/出力$0.60、gpt-oss-20bが$0.075/$0.30、qwen3.8-27bが$0.80/$4.00で、Whisper large-v3-turboは音声1時間あたり$0.04です。Llamaと一部の新しいモデルは営業経由です。
Groqは使う価値があるか?
アプリが人と声で会話したり、返答する前に10回以上モデルを呼び出したりするなら、一つひとつの待ち時間が積み重なり、製品全体が遅く感じられます。
Groqが売っているのは速さで、今もそれを実現しています。モデルのドキュメントには、gpt-oss-20bが毎秒約1,000トークン、gpt-oss-120bが約500トークンと記載されています。大きいほうのモデルは100万トークンあたり入力$0.15、出力$0.60なので、その速さのためにGPUクラウドより高く払う必要はありません。音声エージェント、リアルタイムの自動補完、1ターンに10回以上の呼び出しを連ねるエージェントにとって、これは製品の使い心地を変えます。
データの面では、既定の設定が多くの競合より優れています。Groqによれば、入力と出力は既定で保存されませんが、信頼性と不正利用の監視のために最長30日間ログを取ることがあります。Zero Data Retentionは、企業アカウントに限らずどの顧客でもこれをオフにでき、その代わり保存データに依存する機能は使え なくなります。トラストセンターには2024年と2025年のSOC 2 Type IIのレポートと、HIPAAのBusiness Associate Addendumが記載されています。保存されるデータは米国のGoogle Cloudのバケットに置かれます。
注意点:メニューが短いことです。本番用モデルは、2つのサイズのgpt-oss、2種類のWhisper、そして今は「Contact Sales」と表示される2つのLlamaのモデルです。$0.80と$4.00のqwen3.8-27bを含むプレビューモデルは評価用とされ、「急に提供を終了する場合がある」とされています。特定の最先端のオープンウェイトのモデルやファインチューニングがほしいなら、Together AIやFireworks AIのほうが選択肢は多いです。
会社も変わりました。NVIDIAがLPUの技術をライセンスして創業者を採用した後、Groqは評価額$3.5 billionで$350 millionを調達しました。2025年9月の評価額のおよそ半分で、今では自らをNVIDIAの計算資源も売るネオクラウドと説明しています。そのため、GroqCloudは存続する可能性が高まった一方、自社チップによる純粋な速さの勝負にとどまる可能性は低くなりました。
結論:Groqは、人気のある少数のオープンモデルのための急行レーンです。使いたいモデルが一覧にあり、ユーザーが気づくのが速さであるなら、この価格に異論はほとんどありません。毎秒のトークン数で最も近い競合はCerebrasで、その背後には異なるハードウェアへの賭けがあります。
真価を発揮する場面
歯科医院向けの電話の音声エージェントを作るスタートアップ
発信者の発話から返答までの間を1秒未満に保つ
Whisper large-v3-turboが音声1時間あたり$0.04で文字起こしし、gpt-oss-20bが毎秒約1,000トークンで答えます。月10,000時間の通話なら、LLMのトークン代とは別に文字起こしで約$400かかります。
エージェントがユーザーのリクエストごとに15回連続でLLMを呼び出すバックエンドエンジニア
エージェントを書き直さずに全体の遅延を減らす
OpenAI互換のクライアントの接続先をGroqCloudにして、openai/gpt-oss-120bに切り替えます。得られるのは呼び出しごとの速さで、設計上考慮すべき制約は131,072トークンのコンテキストと65,536トークンの出力上限です。
遠隔医療企業のコンプライアンス責任者
患者データを含む文字起こしのための推論プロバイダーを承認する
GroqはBAAを提供し、SOC 2 Type IIのレポートを掲載し、管理者がZDRを全体でオンにできます。バッチのファイルは削除しない限り最長30日間保存されるので、バッチ処理の流れには削除の工程が必要です。
導入前に確認すること
- 導入
- GroqCloudのコンソールでキーを作成し、OpenAI互換のエンドポイントを使います。無料プランにカードは不要です。
- 連携
- OpenAI互換のチャットと音声のAPIがあります。有料のDeveloperプランではBatchとFlexの処理が使えます。
- データとプライバシー
- 既定で保存はなく、ZDRがオンでない限り、不正利用と信頼性のために最長30日間ログが取られます。バッチのファイルは最長30日です。トラストセンターによればSOC 2 Type IIとHIPAAのBAAがあり、保存されるデータは米国に置かれます。
- 大規模利用時のコスト
- gpt-oss-120bで月30億の入力トークンと10億の出力トークンを処理すると、$450と$600で約$1,050です。gpt-oss-20bなら半分になります。Llamaのモデルは営業が価格を決めます。
- 制限
- 無料プラン:gpt-ossとQwenで毎分30リクエスト、1日1,000リクエスト、毎分8,000トークン、1日200,000トークン。Developerの上限は自分のコンソールにだけ表示されます。
良い点
- gpt-ossモデルで毎秒約500から1,000トークン
- 主要モデルで1日1,000リクエストの無料プラン
- gpt-oss-120bは100万トークンあたり入力$0.15、出力$0.60
- 既定で保存なし。ZDRはすべての顧客が利用可能
- Whisper large-v3-turboは音声1時間あたり$0.04
