Cerebras, Groq ou SambaNova : où faire tourner des modèles ouverts vite, et à quel prix
Par Sheela ·
Si votre produit fait attendre quelqu'un pendant qu'un modèle répond, ou enchaîne une douzaine d'appels avant de répondre, trois entreprises vendent des tokens de modèles ouverts plus vite que les clouds GPU : Cerebras, Groq et SambaNova. Toutes trois ont construit leurs propres puces pour y parvenir. Elles diffèrent par ce qu'elles servent, ce qu'elles facturent, ce que vous pouvez acheter sans contrat et la solidité apparente de l'entreprise derrière chacune. Ce guide s'adresse à une équipe qui choisit où faire tourner des modèles ouverts en production.
Chaque chiffre provient de nos tests de Cerebras, Groq et SambaNova Cloud, des pages des fournisseurs eux-mêmes ou d'Artificial Analysis, qui chronomètre chaque fournisseur servant un même modèle ; nous les avons toutes lues le 7 novembre 2026. Nous n'avons pas utilisé ces services nous-mêmes.
Trois puces, un même problème
Un modèle de langage écrit un token à la fois, et pour chaque token la puce doit lire les poids du modèle en mémoire. Sur un GPU, ces poids se trouvent dans une mémoire à large bande passante (HBM) à côté du processeur, et c'est leur déplacement, plus que le calcul, qui limite en général la vitesse à laquelle la réponse arrive à un utilisateur. Chacune des trois s'attaque à cette étape à sa façon.
- Cerebras : une puce grande comme une galette de silicium. Les fabricants découpent d'ordinaire une galette (wafer) en dizaines de puces séparées. Cerebras garde la galette entière comme un seul processeur, si bien que beaucoup plus de mémoire et de calcul se trouvent sur le même morceau de silicium et que les données n'ont pas à passer d'une puce à l'autre. Son WSE-3 compte 4 000 milliards de transistors et 900 000 cœurs sur 46 225 mm², un carré d'environ 21,5 cm de côté.
- Groq : la mémoire sur la puce, le minutage planifié à l'avance. La Language Processing Unit de Groq garde les poids en SRAM sur la puce plutôt qu'en HBM : 230 Mo par puce, avec une bande passante que Groq situe au-dessus de 80 To/s contre environ 8 To/s pour la mémoire d'un GPU. Son compilateur planifie chaque étape au cycle d'horloge près, si bien que rien n'attend un cache. La contrepartie : une puce ne contient qu'une petite partie d'un grand modèle, qui doit donc être réparti sur de nombreuses puces reliées.
- SambaNova : une chaîne de montage reconfigurable. La Reconfigurable Dataflow Unit de SambaNova permet au compilateur d'étaler tout un pan du modèle sur la puce, de sorte que les résultats passent d'une étape à la suivante sans aller-retour en mémoire. Son SN40L associe 520 Mio de mémoire sur la puce à 64 Gio de HBM et jusqu'à 1,5 Tio de mémoire DDR ordinaire, ce qui permet à un système de garder de nombreux modèles et de passer rapidement de l'un à l'autre.
Ce que vous achetez, c'est de la vitesse pour chaque utilisateur, pas des tokens moins chers. Chaque puce exige en outre un travail de compilation propre pour chaque modèle, et selon notre lecture c'est l'une des raisons pour lesquelles les trois cartes sont courtes.
Les mêmes modèles, côte à côte
Un seul modèle figure sur les trois API partagées : gpt-oss-120b, d'OpenAI. C'est donc la comparaison la plus juste, avec en repère les deux clouds GPU que nous avons testés. La vitesse de sortie est le chiffre principal d'Artificial Analysis : des tokens par seconde sur toute la durée de la requête, en moyenne sur des prompts courts, moyens et longs au cours des cinq jours précédents. Comme gpt-oss-120b raisonne avant de répondre, la dernière colonne, le délai avant le premier token de la réponse elle-même, est plus proche de ce que ressent l'utilisateur.
| gpt-oss-120b chez | Entrée $/1M | Sortie $/1M | Vitesse de sortie (tokens/s) | Premier token (s) | Premier token de réponse (s) |
|---|---|---|---|---|---|
| Cerebras | 0,35 $ | 0,75 $ | 1 347 | 0,65 | 2,26 |
| Groq | 0,15 $ | 0,60 $ | 338 | 1,02 | 4,90 |
| SambaNova | 0,22 $ | 0,59 $ | 417 | 2,56 | 6,74 |
| Together AI | 0,15 $ | 0,60 $ | 65 | 1,53 | 46,23 |
| Fireworks AI | 0,15 $ | 0,60 $ | Non mesuré | Non mesuré | Non mesuré |
Les prix sont les tarifs publics de chaque fournisseur (Cerebras, Groq, SambaNova, Fireworks et notre test de Together AI) ; les vitesses viennent d'Artificial Analysis, consulté le 7 novembre 2026. Artificial Analysis ne liste pas Fireworks pour ce modèle.
Trois choses ressortent. Cerebras est trois à quatre fois plus rapide que Groq ou SambaNova et démarre plus tôt, mais facture l'entrée plus de deux fois le prix de Groq. SambaNova écrit plus vite que Groq une fois lancé, mais met plus de deux fois plus de temps que Groq à produire son premier token, ce qui compte pour tout ce qui est dit à voix haute. Enfin, les chiffres des fournisseurs dépassent les mesures : la documentation de Cerebras annonce environ 3 000 tokens par seconde et celle de Groq environ 500, en partie parce qu'Artificial Analysis compte toute la requête, attente du premier token comprise.
Artificial Analysis vérifie aussi si les réponses de chaque hébergeur correspondent à la version de référence d'OpenAI. SambaNova obtient 98,5%, Cerebras 91,8%, Groq 90,3% et Together AI 81,1%. Les marges autour de ces scores sont larges (celle de Groq va de 82,7% à 97,9%) : voyez-y une raison de tester vos propres prompts, pas un classement.
Les autres recoupements sont partiels :
| Modèle | Où | Entrée / sortie, $ par 1M | Vitesse (tokens/s) | Premier token (s) |
|---|---|---|---|---|
| Qwen 3.8 27B | Cerebras | 0,99 $ / 1,49 $ | environ 1 850 (fournisseur) | Non mesuré |
| Qwen 3.8 27B | Groq (preview) | 0,80 $ / 4,00 $ | environ 450 (fournisseur) | Non mesuré |
| Llama 3.3 70B | Groq (Enterprise uniquement) | Contacter les ventes | 211 | 1,34 |
| Llama 3.3 70B | SambaNova | 0,60 $ / 1,20 $ | 121 | 1,13 |
| GLM-5.3 | SambaNova | 2,80 $ / 8,80 $ | Non mesuré | Non mesuré |
| GLM-5.3 | Together AI | 1,40 $ / 4,40 $ | 159 | 1,08 |
| GLM-5.3 | Fireworks AI (offre Fast) | 2,10 $ / 6,60 $ | 207 | 1,53 |
Les chiffres mesurés viennent des pages d'Artificial Analysis consacrées à Llama 3.3 70B et à GLM-5.3 ; « fournisseur » renvoie à la documentation du fournisseur. L'offre standard de GLM-5.3 chez Fireworks coûte 1,40 $ et 4,40 $. Les lignes GLM-5.3 contiennent un avertissement : SambaNova le facture deux fois le prix de Together AI, et Artificial Analysis n'a aucune mesure du GLM-5.3 de SambaNova pour montrer ce que paie ce surcoût.
Ce que coûte un mois
Prenez une charge de production de 2 milliards de tokens en entrée et 500 millions en sortie par mois sur gpt-oss-120b. Au tarif public, elle coûte environ 1 075 $ chez Cerebras, 735 $ chez SambaNova et 600 $ chez Groq, Together AI ou Fireworks AI. Si le travail peut attendre, l'offre batch de Fireworks est à -50%, soit environ 300 $, et la remise batch de Together AI va jusqu'à 50%.
Les limites qui font mal en production
Les grilles tarifaires cachent les plafonds qui décident si vous pouvez vraiment livrer.
- Cerebras. Le crédit d'essai de 5 $ dure 30 jours, autorise 5 requêtes par minute et réduit le contexte à 65k tokens ; à son terme, l'accès s'arrête jusqu'à l'achat de crédits. Le paiement à l'usage autorise 1 000 requêtes et 1 million de tokens non mis en cache par minute sur gpt-oss-120b, sans plafond quotidien, mais Qwen 3.8 27B reste à 300 requêtes par minute. Le contexte est de 131k tokens sur gpt-oss-120b. Au-delà des deux modèles partagés, il faut Dedicated Inference et un contrat.
- Groq. L'offre gratuite autorise 30 requêtes par minute, 1 000 par jour et 8 000 tokens par minute sur les modèles principaux. Les limites payantes ne s'affichent que dans votre console et ne sont pas publiées. gpt-oss-120b offre un contexte de 131 072 tokens et plafonne la sortie à 65 536 tokens ; la preview de Qwen la plafonne à 16 384. Les deux modèles Llama sont réservés à Enterprise.
- SambaNova. L'offre gratuite autorise 20 requêtes par jour et par modèle. Avec une carte, l'offre Developer autorise 60 requêtes par minute et 12 000 par jour sur la plupart des modèles, et 20 millions de tokens par jour au total. La charge ci-dessus demande environ 83 millions de tokens par jour, quatre fois ce plafond, et donc un abonnement Enterprise sur devis. Llama 3.3 70B plafonne chaque réponse à 3 072 tokens.
Les trois qualifient certains modèles de « preview » et préviennent qu'ils peuvent être retirés à bref délai. La documentation de SambaNova et sa liste de modèles en direct ne concordaient pas le jour de notre vérification : testez contre l'endpoint de la liste des modèles, pas contre la documentation.
Ce que deviennent vos données
- Cerebras dit ne pas conserver les prompts, requêtes ni sorties de l'API d'inférence, même si les entrées du cache de prompts durent de 5 minutes à une heure. Un rapport SOC 2 Type 2 et un accord de traitement des données (DPA) sont disponibles sur demande ; le DPA couvre les comptes professionnels.
- Groq ne conserve pas les entrées et sorties par défaut, mais peut les journaliser jusqu'à 30 jours pour la fiabilité et la lutte contre les abus, sauf si vous activez Zero Data Retention, ce que tout client peut faire. Groq affiche des rapports SOC 2 Type II et propose un avenant HIPAA (business associate addendum). Les fichiers batch sont gardés jusqu'à 30 jours sauf suppression.
- SambaNova affirme sur sa page produit ne jamais collecter vos prompts, mais son contrat de licence ne fixe aucune durée de conservation et l'autorise à utiliser les journaux de requêtes pour améliorer le service, et nous n'avons trouvé aucun rapport SOC 2 public. Pour les cas les plus stricts, SambaNova vend le même matériel pour votre propre centre de données sous le nom de SambaStack, avec des installations isolées du réseau depuis mars 2026.
Pour des données de santé ou d'autres données réglementées, Groq est des trois le plus facile à faire valider à partir de documents publiés. Pour des données qui ne doivent pas quitter vos locaux, SambaNova vend le matériel de son cloud comme produit standard à installer sur site.
Où chacun l'emporte
Agents qui enchaînent de nombreux appels : Cerebras
À 1 347 tokens par seconde et 0,65 seconde avant le premier token, Cerebras raccourcit chaque étape d'un agent de code ou de recherche, et des dizaines d'étapes par tâche finissent par faire gagner des minutes. 1 000 requêtes par minute en paiement à l'usage, c'est rarement le goulet d'étranglement. Vous le payez : plus de deux fois le prix d'entrée de Groq, et deux modèles seulement sur l'API partagée.
Voix : Groq
Un agent téléphonique doit entendre, réfléchir et répondre avant que l'appelant ne remarque un silence. Groq vend la transcription avec Whisper large-v3-turbo à 0,04 $ l'heure d'audio à côté de gpt-oss-20b, qu'Artificial Analysis mesure à 630 tokens par seconde pour 0,075 $ en entrée et 0,30 $ en sortie : un fournisseur et un contrat couvrent les deux moitiés. Ajoutez le BAA et Zero Data Retention, et Groq est le choix pratique pour les centres de contact.
Une seconde source moins chère de gpt-oss rapide : SambaNova
SambaNova se place entre les deux autres en prix et en vitesse pour gpt-oss-120b, obtient le meilleur score de précision des réponses et sert des modèles qu'aucun rival ne propose, comme GLM-5.3 et MiniMax-M3.1-Flash avec un contexte de 1 million de tokens. Ses faibles limites en libre-service en font un fournisseur de secours plutôt que principal, sauf si vous achetez le matériel.
Coût du batch et choix des modèles : un cloud GPU
Aucun des trois n'est l'option bon marché pour un travail que personne n'attend. Together AI et Fireworks AI s'alignent sur le prix de Groq pour gpt-oss-120b, le réduisent jusqu'à moitié en batch, proposent des listes de modèles bien plus longues, affinent des modèles pour vous et louent des GPU dédiés (un H100 coûte 5,49 $ de l'heure chez Together AI et 8 $ chez Fireworks). Si vous avez besoin d'un modèle ouvert précis, d'un fine-tuning ou d'un débit régulier pour de nombreux utilisateurs plutôt que de vitesse pour un seul, un cloud GPU est le meilleur achat. L'auto-hébergement avec vLLM ou SGLang l'emporte à fort volume régulier, comme l'explique notre guide du service d'inférence.
Dépendance et risque d'approvisionnement
Changer coûte peu dans le code. Les trois parlent le format de chat d'OpenAI, donc migrer revient surtout à changer une URL de base et un nom de modèle, et OpenRouter liste les trois comme fournisseurs de gpt-oss-120b. Les écarts sont dans les détails : Groq refuse logprobs et logit_bias, et Cerebras limite n à 1 et ne combine pas outils et schéma de réponse sur gpt-oss-120b. Testez exactement les paramètres qu'envoie votre code.
Le plus grand risque, ce sont les entreprises, et 2026 a bousculé les trois.
- Cerebras est entrée au Nasdaq en mai 2026 et a signé en janvier un contrat de calcul avec OpenAI de plus de 10 milliards de dollars. Fin septembre, le cabinet d'analyse SemiAnalysis a indiqué que le mode Ultrafast de GPT-6.1 Sol d'OpenAI tourne sur des GPU Nvidia, pas sur Cerebras ; l'action a chuté de près de 20% en une semaine, pour une valeur d'un peu plus de 39 milliards de dollars contre 95 milliards à la clôture du premier jour de cotation, selon CNBC. Oracle prévoit de proposer l'inférence de Cerebras dans son cloud en 2027. Les forfaits à prix fixe Cerebras Code sont affichés comme épuisés.
- Groq a concédé une licence sur sa technologie de puces à Nvidia pour environ 20 milliards de dollars en décembre 2025, et Nvidia a recruté son fondateur et une grande partie de l'équipe d'ingénierie. Groq fait désormais tourner du matériel Nvidia à côté du sien en tant que Nvidia Cloud Partner, a levé 350 millions de dollars sur une valorisation de 3,5 milliards en août et cherche un nouveau tour à 8 milliards, selon Bloomberg le 6 novembre. GroqCloud devrait continuer de fonctionner ; qu'il reste un service sur LPU est moins sûr.
- SambaNova a abandonné l'entraînement d'IA en avril 2025 et licencié 77 personnes, environ 15% des effectifs. Intel a envisagé de la racheter pour environ 1,6 milliard de dollars fin 2025 ; à la place, Intel a participé à un tour de 350 millions en février 2026, et en juillet SambaNova a levé 1 milliard de dollars sur une valorisation de 11 milliards, avec sa puce SN50 attendue au second semestre 2026.
Les poids ouverts sont votre assurance. Une équipe sur gpt-oss-120b peut passer d'un des cinq fournisseurs du premier tableau à un autre en changeant une URL et un nom de modèle ; une équipe qui bâtit sur un modèle qu'un seul fournisseur rapide sert ne le peut pas.
Une configuration de départ
- Le trafic courant sur un cloud GPU. gpt-oss-120b ou le modèle ouvert dont vous avez besoin chez Together AI ou Fireworks AI, avec le batch pour tout ce qui n'est pas en temps réel.
- Les appels sensibles à la latence sur une puce rapide. Les étapes d'agent chez Cerebras, la voix chez Groq, avec le même client OpenAI ou via OpenRouter.
- Un secours configuré. SambaNova pour gpt-oss-120b, pour qu'une panne ou une limite de débit chez un fournisseur ne fasse pas tomber votre produit.
- Une vérification mensuelle. Prix, mentions preview et listes de modèles changent souvent chez les trois ; relisez-les et relancez vos propres contrôles de qualité après tout changement.
Le hic : les chiffres de vitesse viennent d'un seul service de mesure qui envoie surtout des requêtes isolées depuis un seul endroit, et ils disent peu de chose du comportement d'un fournisseur à votre pic de charge. Les chiffres des fournisseurs sont plus élevés, les mesures varient d'une semaine à l'autre et un seul modèle figure sur les trois cartes. Prenez les tableaux comme une présélection, puis faites tourner vos propres prompts à votre propre volume avant de signer quoi que ce soit.
Notre avis : les fournisseurs de puces rapides sont la caisse express. Elle vaut le coup quand on attend avec quelques articles et un train à prendre, et c'est du gaspillage pour les courses de la semaine. Envoyez chez Cerebras ou Groq les appels que quelqu'un attend, gardez SambaNova comme deuxième caisse et comme option sur du matériel à vous, et laissez un cloud GPU porter tout le reste.