Qu’est-ce que Groq ?
Groq fait tourner des modèles d'IA via une API appelée GroqCloud. L'entreprise s'est fait un nom avec ses propres puces, les LPU (Language Processing Units), et sa documentation indique environ 1 000 tokens par seconde pour gpt-oss-20b et environ 500 pour gpt-oss-120b.
L'entreprise a changé de visage. En décembre 2025, NVIDIA a payé environ 20 milliards de dollars pour une licence non exclusive sur la technologie de puces de Groq et a recruté le fondateur Jonathan Ross ainsi qu'une grande partie de l'équipe d'ingénieurs. Sous la direction de son nouveau PDG, Doug Wightman, Groq est devenu NVIDIA Cloud Partner en août 2026 et a levé 350 millions de dollars en Series A sur une valorisation de 3,5 milliards de dollars, en se repositionnant comme cloud d'inférence qui fait tourner du matériel NVIDIA à côté du sien.
La liste publique des modèles est courte : les modèles gpt-oss d'OpenAI, un modèle Qwen, la transcription Whisper et quelques modèles de sécurité et de voix. Llama 3.1 8B et Llama 3.3 70B figurent toujours parmi les modèles de production, mais sont réservés à Enterprise.
Combien coûte Groq ?
| Offre | Prix | Ce qui est inclus |
|---|---|---|
| Free | Free | Limites de débit (30 requêtes/minute et 1 000/jour pour gpt-oss-120b) |
| gpt-oss-120b | $0.15 in / $0.60 out per 1M tokens | Offre Developer |
| gpt-oss-20b | $0.075 in / $0.30 out per 1M tokens | Offre Developer |
| qwen3.8-27b | $0.80 in / $4.00 out per 1M tokens | Offre Developer |
| Whisper large-v3-turbo | $0.04/hour of audio | Offre Developer |
Offre gratuite avec limites de débit (30 requêtes/minute et 1 000/jour pour gpt-oss-120b). Offre Developer à l'usage : gpt-oss-120b à 0,15 $ en entrée / 0,60 $ en sortie par million de tokens, gpt-oss-20b à 0,075 $ / 0,30 $, qwen3.8-27b à 0,80 $ / 4,00 $ ; Whisper large-v3-turbo à 0,04 $ par heure d'audio. Llama et certains modèles plus récents via le service commercial.
Groq vaut-il le coup ?
Si votre application parle à voix haute avec les gens, ou enchaîne une douzaine d'appels de modèle avant de répondre, chaque pause s'additionne et tout le produit paraît lent.
Groq vend de la vitesse, et tient toujours sa promesse. Sa documentation indique environ 1 000 tokens par seconde pour gpt-oss-20b et environ 500 pour gpt-oss-120b. Le plus grand modèle coûte 0,15 $ par million de tokens en entrée et 0,60 $ en sortie, si bien que vous ne payez aucun supplément par rapport aux clouds GPU pour cette vitesse. Pour les agents vocaux, l'autocomplétion en direct ou les agents qui enchaînent une douzaine d'appels par tour, cela change la façon dont un produit est perçu.
Côté données, les réglages par défaut sont meilleurs que chez beaucoup de concurrents. Groq affirme ne pas conserver vos entrées et sorties par défaut, même s'il peut les journaliser jusqu'à 30 jours pour la fiabilité et la détection des abus. Zero Data Retention désactive cela pour n'importe quel client, pas seulement les comptes entreprise, au prix des fonctions qui dépendent de données stockées. Le centre de confiance mentionne des rapports SOC 2 Type II pour 2024 et 2025 et un avenant HIPAA de partenaire commercial (BAA). Les données conservées se trouvent dans des buckets Google Cloud aux États-Unis.
Le hic : la carte est courte. Les modèles de production sont deux tailles de gpt-oss, deux variantes de Whisper et deux modèles Llama qui affichent désormais « Contact Sales ». Les modèles en preview, dont qwen3.8-27b à 0,80 $ et 4,00 $, sont réservés à l'évaluation et « may be discontinued at short notice », c'est-à-dire qu'ils peuvent disparaître à bref délai. Si vous voulez un modèle open-weight de pointe précis, ou du fine-tuning, Together AI et Fireworks AI offrent davantage.
L'entreprise a changé elle aussi. Après que NVIDIA a pris une licence sur la technologie LPU et recruté son fondateur, Groq a levé 350 millions de dollars sur une valorisation de 3,5 milliards, environ la moitié de sa valorisation de septembre 2025, et se présente désormais comme un neocloud qui vend aussi de la capacité NVIDIA. GroqCloud a ainsi plus de chances de continuer à fonctionner, et moins de rester un pur pari sur la vitesse de ses propres puces.
Notre avis : Groq est la voie express pour une poignée de modèles ouverts populaires. Si votre modèle figure sur sa liste et que la vitesse est ce que remarquent vos utilisateurs, le prix est difficile à contester ; Cerebras est le concurrent le plus proche en tokens par seconde bruts, avec un autre pari matériel derrière lui.
Là où il fait la différence
Une start-up qui construit un agent vocal téléphonique pour cabinets dentaires
Garder le délai entre l'appelant et la réponse sous la seconde
Whisper large-v3-turbo transcrit à 0,04 $ l'heure d'audio et gpt-oss-20b répond à environ 1 000 tokens par seconde. 10 000 heures d'appels par mois coûtent environ 400 $ de transcription, avant les tokens du LLM.
Un ingénieur backend dont l'agent fait 15 appels LLM successifs par requête utilisateur
Réduire la latence de bout en bout sans réécrire l'agent
Pointez le client compatible OpenAI vers GroqCloud et passez à openai/gpt-oss-120b. Le gain tient à la vitesse de chaque appel ; le contexte de 131 072 tokens et la limite de sortie de 65 536 tokens sont les contraintes à prendre en compte.
Une responsable conformité dans une entreprise de télémédecine
Valider un fournisseur d'inférence pour des transcriptions contenant des données de patients
Groq propose un BAA, mentionne des rapports SOC 2 Type II et permet aux administrateurs d'activer ZDR globalement. Les fichiers batch sont conservés jusqu'à 30 jours sauf suppression, donc les pipelines batch ont besoin d'une étape de suppression.
Avant de vous engager
- Mise en route
- Créez une clé dans la console GroqCloud et utilisez l'endpoint compatible OpenAI ; l'offre gratuite ne demande pas de carte.
- Intégrations
- API de chat et d'audio compatibles OpenAI ; traitement Batch et Flex sur l'offre Developer payante.
- Données et confidentialité
- Pas de conservation par défaut, jusqu'à 30 jours de journalisation pour les abus et la fiabilité sauf si ZDR est activé ; fichiers batch jusqu'à 30 jours. SOC 2 Type II et BAA HIPAA selon le centre de confiance ; données conservées stockées aux États-Unis.
- Coût à grande échelle
- Une charge de 3 milliards de tokens en entrée et 1 milliard en sortie par mois sur gpt-oss-120b coûte 450 $ plus 600 $, soit environ 1 050 $ ; sur gpt-oss-20b, c'est moitié moins. Les modèles Llama sont tarifés par le service commercial.
- Limites
- Offre gratuite : 30 requêtes par minute, 1 000 par jour, 8 000 tokens par minute et 200 000 par jour sur gpt-oss et Qwen. Les limites Developer ne s'affichent que dans votre console.
Les points forts
- Environ 500 à 1 000 tokens par seconde sur les modèles gpt-oss
- Offre gratuite avec 1 000 requêtes par jour sur les principaux modèles
- gpt-oss-120b à 0,15 $ en entrée et 0,60 $ en sortie par million de tokens
- Pas de conservation par défaut ; ZDR accessible à tous les clients
- Whisper large-v3-turbo à 0,04 $ par heure d'audio
Les points faibles
- Six modèles de production, dont deux Llama réservés à Enterprise
- Les modèles en preview peuvent être retirés à bref délai
- Offre gratuite plafonnée à 8 000 tokens par minute sur les principaux modèles
- L'activité passe de ses propres puces à de la capacité NVIDIA
Idéal pour
Les développeurs qui construisent des fonctions vocales, en temps réel ou d'agents, pour lesquelles la vitesse de réponse compte plus que le choix du modèle.
Alternatives à Groq
Groq : questions fréquentes
- Groq vaut-il le coup ?
- Groq vend toujours certains des tokens les plus rapides du marché à prix cassé, mais l'entreprise qui le porte a changé et sa liste de modèles a rétréci en conséquence. Nous lui donnons 4.0 sur 5.
- Combien coûte Groq ?
- Offre gratuite avec limites de débit (30 requêtes/minute et 1 000/jour pour gpt-oss-120b). Offre Developer à l'usage : gpt-oss-120b à 0,15 $ en entrée / 0,60 $ en sortie par million de tokens, gpt-oss-20b à 0,075 $ / 0,30 $, qwen3.8-27b à 0,80 $ / 4,00 $ ; Whisper large-v3-turbo à 0,04 $ par heure d'audio. Llama et certains modèles plus récents via le service commercial.
- Quels sont les inconvénients de Groq ?
- Six modèles de production, dont deux Llama réservés à Enterprise; les modèles en preview peuvent être retirés à bref délai; offre gratuite plafonnée à 8 000 tokens par minute sur les principaux modèles; l'activité passe de ses propres puces à de la capacité NVIDIA.
- À qui s’adresse Groq ?
- Les développeurs qui construisent des fonctions vocales, en temps réel ou d'agents, pour lesquelles la vitesse de réponse compte plus que le choix du modèle.
- Combien coûte Groq pour une équipe ou en production ?
- Une charge de 3 milliards de tokens en entrée et 1 milliard en sortie par mois sur gpt-oss-120b coûte 450 $ plus 600 $, soit environ 1 050 $ ; sur gpt-oss-20b, c'est moitié moins. Les modèles Llama sont tarifés par le service commercial.
- Groq est-il sûr pour les données de l’entreprise ?
- Pas de conservation par défaut, jusqu'à 30 jours de journalisation pour les abus et la fiabilité sauf si ZDR est activé ; fichiers batch jusqu'à 30 jours. SOC 2 Type II et BAA HIPAA selon le centre de confiance ; données conservées stockées aux États-Unis.
- Quelles sont les meilleures alternatives à Groq ?
- Les alternatives les plus proches que nous avons testées sont Cerebras, Fireworks AI, Together AI et OpenRouter.
Réponses vérifiées le 22 oct. 2026.