Was ist Groq?
Groq betreibt KI-Modelle über eine API namens GroqCloud. Bekannt wurde die Firma mit eigenen Chips, den LPUs (Language Processing Units), und ihre Modelldokumentation nennt für gpt-oss-20b etwa 1.000 Tokens pro Sekunde und für gpt-oss-120b etwa 500.
Das Unternehmen hat sich gewandelt. Im Dezember 2025 zahlte NVIDIA rund 20 Milliarden $ für eine nicht exklusive Lizenz an Groqs Chiptechnologie und stellte Gründer Jonathan Ross sowie einen Großteil des Engineering-Teams ein. Unter dem neuen CEO Doug Wightman wurde Groq im August 2026 NVIDIA Cloud Partner und sammelte in einer Series A 350 Millionen $ bei einer Bewertung von 3,5 Milliarden $ ein. Seitdem positioniert sich Groq als Inferenz-Cloud, die NVIDIA-Hardware neben der eigenen betreibt.
Die öffentliche Modellliste ist kurz: die gpt-oss-Modelle von OpenAI, ein Qwen-Modell, Whisper für Sprache-zu-Text und einige Sicherheits- und Sprachmodelle. Llama 3.1 8B und Llama 3.3 70B stehen weiterhin als Produktionsmodelle in der Liste, gibt es aber nur für Enterprise.
Was kostet Groq?
| Tarif | Preis | Was enthalten ist |
|---|---|---|
| Free | Free | Ratenlimits (30 Anfragen pro Minute und 1.000 pro Tag für gpt-oss-120b) |
| gpt-oss-120b | $0.15 in / $0.60 out per 1M tokens | Developer-Plan |
| gpt-oss-20b | $0.075 in / $0.30 out per 1M tokens | Developer-Plan |
| qwen3.8-27b | $0.80 in / $4.00 out per 1M tokens | Developer-Plan |
| Whisper large-v3-turbo | $0.04/hour of audio | Developer-Plan |
Kostenloser Plan mit Ratenlimits (30 Anfragen pro Minute und 1.000 pro Tag für gpt-oss-120b). Developer-Plan mit Abrechnung nach Nutzung: gpt-oss-120b 0,15 $ Eingabe / 0,60 $ Ausgabe pro 1 Mio. Tokens, gpt-oss-20b 0,075 $ / 0,30 $, qwen3.8-27b 0,80 $ / 4,00 $; Whisper large-v3-turbo 0,04 $ pro Stunde Audio. Llama und einige neuere Modelle über den Vertrieb.
Lohnt sich Groq?
Wenn deine App laut mit Menschen spricht oder ein Dutzend Modellaufrufe aneinanderreiht, bevor sie antwortet, summiert sich jede Pause, und das ganze Produkt wirkt langsam.
Groq verkauft Geschwindigkeit und liefert sie weiterhin. Die Modelldokumentation nennt für gpt-oss-20b rund 1.000 Tokens pro Sekunde und für gpt-oss-120b etwa 500. Das größere Modell kostet 0,15 $ pro Million Tokens Eingabe und 0,60 $ Ausgabe, für diese Geschwindigkeit zahlst du also keinen Aufschlag gegenüber GPU-Clouds. Bei Sprachagenten, Live-Autovervollständigung oder Agenten, die pro Runde ein Dutzend Aufrufe verketten, verändert das, wie sich ein Produkt anfühlt.
Bei den Daten sind die Standardeinstellungen besser als bei vielen Konkurrenten. Groq sagt, es speichere deine Eingaben und Ausgaben standardmäßig nicht, könne sie aber bis zu 30 Tage lang für Zuverlässigkeit und Missbrauchsüberwachung protokollieren. Zero Data Retention schaltet das für jeden Kunden ab, nicht nur für Enterprise-Konten, kostet dafür aber Funktionen, die auf gespeicherte Daten angewiesen sind. Das Trust Center listet SOC 2 Type II-Berichte für 2024 und 2025 sowie ein HIPAA Business Associate Addendum. Gespeicherte Daten liegen in Google Cloud-Buckets in den USA.
Der Haken: Die Auswahl ist klein. Produktionsmodelle sind zwei gpt-oss-Größen, zwei Whisper-Varianten und zwei Llama-Modelle, bei denen jetzt "Contact Sales" steht. Preview-Modelle, darunter qwen3.8-27b für 0,80 $ und 4,00 $, sind zur Evaluierung gedacht und "may be discontinued at short notice", können also kurzfristig eingestellt werden. Wenn du ein bestimmtes offenes Spitzenmodell oder Fine-Tuning willst, bieten Together AI und Fireworks AI mehr.
Auch das Unternehmen hat sich verändert. Nachdem NVIDIA die LPU-Technologie lizenziert und den Gründer eingestellt hatte, sammelte Groq 350 Millionen $ bei einer Bewertung von 3,5 Milliarden $ ein, etwa der Hälfte der Bewertung vom September 2025, und beschreibt sich jetzt als Neocloud, die auch NVIDIA-Kapazität verkauft. Damit wird es wahrscheinlicher, dass GroqCloud weiterläuft, und unwahrscheinlicher, dass es ein reines Geschwindigkeitsangebot auf eigenen Chips bleibt.
Unser Fazit: Groq ist die Überholspur für eine Handvoll beliebter offener Modelle. Wenn dein Modell auf der Liste steht und deine Nutzer die Geschwindigkeit bemerken, ist gegen den Preis kaum etwas einzuwenden; Cerebras ist bei den reinen Tokens pro Sekunde der nächste Konkurrent, mit einer anderen Hardware-Wette dahinter.
Wo es sich lohnt
Ein Startup, das einen telefonischen Sprachagenten für Zahnarztpraxen baut
Die Pause zwischen Anrufer und Antwort unter einer Sekunde halten
Whisper large-v3-turbo transkribiert für 0,04 $ pro Stunde Audio, und gpt-oss-20b antwortet mit etwa 1.000 Tokens pro Sekunde. 10.000 Anrufstunden im Monat kosten etwa 400 $ für die Transkription, noch vor den LLM-Tokens.
Ein Backend-Entwickler, dessen Agent pro Nutzeranfrage 15 LLM-Aufrufe nacheinander macht
Die Gesamtlatenz senken, ohne den Agenten neu zu schreiben
Richte den OpenAI-kompatiblen Client auf GroqCloud und wechsle zu openai/gpt-oss-120b. Der Gewinn liegt in der Geschwindigkeit pro Aufruf; der Kontext von 131.072 Tokens und die Ausgabegrenze von 65.536 Tokens sind die Grenzen, um die herum du planen musst.
Eine Compliance-Verantwortliche bei einem Telemedizin-Anbieter
Einen Inferenz-Anbieter für Transkripte mit Patientendaten freigeben
Groq bietet ein BAA, listet SOC 2 Type II-Berichte und lässt Admins ZDR global einschalten. Batch-Dateien werden bis zu 30 Tage aufbewahrt, sofern sie nicht gelöscht werden, Batch-Pipelines brauchen also einen Löschschritt.
Bevor du dich festlegst
- Einrichtung
- Erstelle einen Schlüssel in der GroqCloud-Konsole und nutze den OpenAI-kompatiblen Endpunkt; für den kostenlosen Plan brauchst du keine Karte.
- Integrationen
- OpenAI-kompatible Chat- und Audio-APIs; Batch- und Flex-Verarbeitung im kostenpflichtigen Developer-Plan.
- Daten und Datenschutz
- Standardmäßig keine Speicherung, bis zu 30 Tage Protokollierung für Missbrauch und Zuverlässigkeit, sofern ZDR nicht aktiv ist; Batch-Dateien bis zu 30 Tage. Laut Trust Center SOC 2 Type II und HIPAA BAA; gespeicherte Daten liegen in den USA.
- Kosten im großen Maßstab
- Eine Last von 3 Milliarden Eingabe- und 1 Milliarde Ausgabe-Tokens im Monat auf gpt-oss-120b kostet 450 $ plus 600 $, also etwa 1.050 $; mit gpt-oss-20b halbiert sich das. Die Preise für Llama-Modelle nennt der Vertrieb.
- Grenzen
- Kostenloser Plan: 30 Anfragen pro Minute, 1.000 pro Tag, 8.000 Tokens pro Minute und 200.000 pro Tag bei gpt-oss und Qwen. Die Limits des Developer-Plans siehst du nur in deiner Konsole.
Was gut ist
- Etwa 500 bis 1.000 Tokens pro Sekunde bei den gpt-oss-Modellen
- Kostenlose Stufe mit 1.000 Anfragen pro Tag bei den Hauptmodellen
- gpt-oss-120b für 0,15 $ Eingabe und 0,60 $ Ausgabe pro Million Tokens
- Standardmäßig keine Speicherung; ZDR für jeden Kunden verfügbar
- Whisper large-v3-turbo für 0,04 $ pro Stunde Audio
Was nicht
- Sechs Produktionsmodelle, davon zwei Llama-Modelle nur für Enterprise
- Preview-Modelle können kurzfristig zurückgezogen werden
- Kostenlose Stufe bei den Hauptmodellen auf 8.000 Tokens pro Minute begrenzt
- Das Geschäft verlagert sich gerade von eigenen Chips zu NVIDIA-Kapazität
Am besten für
Entwickler, die Sprach-, Echtzeit- oder Agentenfunktionen bauen, bei denen die Antwortgeschwindigkeit mehr zählt als die Modellauswahl.
Alternativen zu Groq
Groq: häufige Fragen
- Lohnt sich Groq?
- Groq verkauft weiterhin einige der schnellsten Tokens auf dem Markt zu Schnäppchenpreisen, doch das Unternehmen dahinter hat sich verändert, und seine Modellliste ist entsprechend geschrumpft. Wir bewerten es mit 4.0 von 5.
- Was kostet Groq?
- Kostenloser Plan mit Ratenlimits (30 Anfragen pro Minute und 1.000 pro Tag für gpt-oss-120b). Developer-Plan mit Abrechnung nach Nutzung: gpt-oss-120b 0,15 $ Eingabe / 0,60 $ Ausgabe pro 1 Mio. Tokens, gpt-oss-20b 0,075 $ / 0,30 $, qwen3.8-27b 0,80 $ / 4,00 $; Whisper large-v3-turbo 0,04 $ pro Stunde Audio. Llama und einige neuere Modelle über den Vertrieb.
- Welche Nachteile hat Groq?
- Sechs Produktionsmodelle, davon zwei Llama-Modelle nur für Enterprise; Preview-Modelle können kurzfristig zurückgezogen werden; Kostenlose Stufe bei den Hauptmodellen auf 8.000 Tokens pro Minute begrenzt; Das Geschäft verlagert sich gerade von eigenen Chips zu NVIDIA-Kapazität.
- Für wen eignet sich Groq?
- Entwickler, die Sprach-, Echtzeit- oder Agentenfunktionen bauen, bei denen die Antwortgeschwindigkeit mehr zählt als die Modellauswahl.
- Was kostet Groq für ein Team oder im Produktivbetrieb?
- Eine Last von 3 Milliarden Eingabe- und 1 Milliarde Ausgabe-Tokens im Monat auf gpt-oss-120b kostet 450 $ plus 600 $, also etwa 1.050 $; mit gpt-oss-20b halbiert sich das. Die Preise für Llama-Modelle nennt der Vertrieb.
- Ist Groq sicher für Firmendaten?
- Standardmäßig keine Speicherung, bis zu 30 Tage Protokollierung für Missbrauch und Zuverlässigkeit, sofern ZDR nicht aktiv ist; Batch-Dateien bis zu 30 Tage. Laut Trust Center SOC 2 Type II und HIPAA BAA; gespeicherte Daten liegen in den USA.
- Was sind die besten Alternativen zu Groq?
- Die nächsten Alternativen, die wir getestet haben, sind Cerebras, Fireworks AI, Together AI und OpenRouter.
Antworten geprüft am 22. Okt. 2026.