Qu’est-ce que Baseten ?
Baseten héberge des modèles d'IA pour les entreprises qui ont besoin qu'ils tournent de façon fiable en production. Il propose les Model APIs, une API partagée facturée au token pour des modèles ouverts comme GPT OSS 120B, DeepSeek V4.1, GLM-5.3 et Kimi K3, et des déploiements dédiés où votre propre modèle, ou un modèle affiné, tourne sur des GPU qui vous sont réservés. Il exécute aussi des tâches d'entraînement sur le même matériel.
L'offre Basic n'a pas de frais mensuels ; vous payez à l'usage, et les nouveaux comptes reçoivent des crédits d'un montant non précisé. Sur les Model APIs, GPT OSS 120B coûte 0,10 $ en entrée et 0,50 $ en sortie par million de tokens. Les GPU dédiés sont facturés à la minute, d'environ 0,63 $ de l'heure pour un T4 à environ 6,50 $ pour un H100 et environ 9,98 $ pour un B200. Les clients Enterprise peuvent faire tourner Baseten dans leur propre compte cloud.
Combien coûte Baseten ?
| Offre | Prix | Ce qui est inclus |
|---|---|---|
| Basic | $0/month | Paiement à l'usage |
| Pro | By quote | |
| Enterprise | By quote |
Basic à 0 $/mois, paiement à l'usage ; Pro et Enterprise sur devis. Model APIs par million de tokens, par exemple GPT OSS 120B à 0,10 $ en entrée / 0,50 $ en sortie, Kimi K3 à 3 $ / 15 $. GPU dédiés à la minute : T4 environ 0,63 $/heure, A100 environ 4,00 $/heure, H100 environ 6,50 $/heure, B200 environ 9,98 $/heure.
Baseten vaut-il le coup ?
Une fois qu'un modèle que vous avez créé répond à de vrais clients, la difficulté n'est plus le modèle. Elle devient de le maintenir en marche, de protéger les données et de le faire valider par la personne qui signe pour la sécurité.
Baseten fait tourner le modèle pour vous. Vous pouvez appeler des modèles ouverts populaires via ses Model APIs partagées et payer au token, ou placer votre propre modèle, ou un modèle affiné, sur des GPU qui vous sont réservés. Ses pratiques de sécurité engagent les deux à ne conserver aucune donnée : les entrées et sorties synchrones ne sont ni journalisées ni écrites sur un stockage persistant, et le contenu des clients ne sert pas à l'entraînement. Les requêtes asynchrones font exception, leurs entrées n'étant conservées que jusqu'à la fin du traitement.
SOC 2 Type II et HIPAA s'appliquent même sur l'offre gratuite Basic. C'est inhabituel, et cela compte si vous vendez à des acheteurs du secteur de la santé ou de la finance.
Les API partagées sont assez bon marché pour servir de choix par défaut. GPT OSS 120B coûte 0,10 $ en entrée et 0,50 $ en sortie par million de tokens et DeepSeek V4.1 Flash 0,30 $ et 1,20 $, dans le bas de la fourchette des modèles ouverts hébergés, et l'entrée en cache est facturée au dixième du tarif normal sur la plupart des modèles. Depuis août 2026, Baseten est aussi un Inference Provider sur Hugging Face.
Déployer votre propre modèle tient pour l'essentiel en une commande. Vous le décrivez avec Truss, le format de configuration open source de Baseten, le poussez avec le CLI, puis le promouvez vers une URL d'endpoint stable d'une version à l'autre. Enterprise peut faire tourner tout cela dans votre propre VPC ou en hybride entre les deux clouds, et permet d'utiliser des engagements cloud existants, ce qui tranche souvent la question pour une entreprise qui a déjà prépayé AWS ou Google.
Le hic : c'est sur le matériel dédié que la facture grimpe. Un H100 revient à environ 6,50 $ de l'heure en facturation à la minute, contre environ 3,95 $ sur Modal, et un A100 coûte 4,00 $ contre 2,50 $ chez Modal. Un H100 qui tourne jour et nuit revient à environ 4 680 $ par mois. L'accès prioritaire aux GPU rares exige l'offre Pro sur devis, et les limites par défaut des Model APIs sont modestes : un compte Basic vérifié a droit à 120 requêtes et 500 000 tokens par minute, et Pro double la limite de tokens à 1 million.
Notre avis : les API partagées sont tarifées comme une marchandise courante, tandis que les GPU dédiés sont un achat de conformité. Si votre audit de sécurité devait sinon prendre des mois, le surcoût est modique ; sinon, vous payez environ 65 % de plus de l'heure que chez Modal pour des documents dont vous n'avez pas besoin.
Là où il fait la différence
Un ingénieur ML dans une startup de santé numérique de 40 personnes
Servir un modèle de notes cliniques affiné dans le cadre de HIPAA
Empaquetez le modèle avec Truss, poussez-le sur un H100 dédié et promouvez-le vers un endpoint stable. HIPAA et SOC 2 Type II s'appliquent sur Basic ; un H100 qui tourne en continu revient à environ 4 680 $ par mois, moins si le trafic permet de réduire le nombre de répliques.
Une équipe backend qui ajoute une fonction LLM à une application B2B
Appeler un modèle ouvert performant sans gérer de GPU
Les Model APIs avec GPT OSS 120B : 2 milliards de tokens en entrée et 500 millions en sortie par mois coûtent environ 450 $, sans conservation des données sur les appels synchrones.
Un responsable de l'infrastructure dans une banque engagée auprès d'AWS
Héberger des modèles ouverts sans que les données quittent le compte cloud de la banque
Enterprise déploie Baseten dans le propre VPC de la banque et puise dans ses engagements cloud existants ; les prix sont sur devis et non publiés.
Avant de vous engager
- Mise en route
- Installez le Truss CLI, décrivez le modèle dans config.yaml et lancez baseten model push ; un déploiement de développement avec rechargement à chaud démarre d'abord, puis un déploiement de production que vous promouvez.
- Intégrations
- Truss encapsule aussi des conteneurs vLLM, SGLang ou Triton existants ; les Model APIs sont disponibles via Hugging Face Inference Providers.
- Données et confidentialité
- Aucune conservation des données pour les appels synchrones aux Model APIs et à l'inférence dédiée, aucun entraînement sur le contenu des clients ; SOC 2 Type II et HIPAA sur toutes les offres ; contrôle de la résidence des données et auto-hébergement sur Enterprise.
- Coût à grande échelle
- Un H100 à 0,10833 $ la minute revient à environ 4 680 $ par mois s'il n'est jamais inactif, contre environ 2 844 $ chez Modal ; la facturation à la minute, sans frais pour le temps d'inactivité, réduit cet écart pour un trafic en pics.
- Limites
- Basic tourne uniquement sur Baseten Cloud, sans accès prioritaire aux GPU ; les limites par défaut des Model APIs sont de 15 requêtes et 100 000 tokens par minute sur un compte Basic non vérifié, 120 et 500 000 une fois vérifié, et 120 et 1 million sur Pro.
Les points forts
- Aucune conservation des données sur les Model APIs et l'inférence dédiée
- SOC 2 Type II et HIPAA sur toutes les offres, y compris Basic, gratuite
- GPT OSS 120B à 0,10 $ / 0,50 $ par million de tokens
- Enterprise tourne dans votre VPC et utilise vos engagements cloud existants
Les points faibles
- Les H100 dédiés coûtent environ 65 % de plus de l'heure que chez Modal
- Montant du crédit gratuit non publié ; limites des Model APIs basses sur Basic
- L'accès prioritaire aux GPU exige l'offre Pro sur devis
- Les requêtes asynchrones stockent temporairement les entrées
Idéal pour
Les entreprises qui servent en production des modèles personnalisés ou affinés et ont besoin d'une absence de conservation des données, de HIPAA et de la possibilité de tourner dans leur propre cloud.
Alternatives à Baseten
Baseten : questions fréquentes
- Baseten vaut-il le coup ?
- Baseten fait tourner vos modèles en production avec les documents de conformité déjà prêts, mais ses GPU dédiés coûtent nettement plus cher que ce que vous paieriez pour les louer ailleurs. Nous lui donnons 4.2 sur 5.
- Combien coûte Baseten ?
- Basic à 0 $/mois, paiement à l'usage ; Pro et Enterprise sur devis. Model APIs par million de tokens, par exemple GPT OSS 120B à 0,10 $ en entrée / 0,50 $ en sortie, Kimi K3 à 3 $ / 15 $. GPU dédiés à la minute : T4 environ 0,63 $/heure, A100 environ 4,00 $/heure, H100 environ 6,50 $/heure, B200 environ 9,98 $/heure.
- Quels sont les inconvénients de Baseten ?
- Les H100 dédiés coûtent environ 65 % de plus de l'heure que chez Modal; montant du crédit gratuit non publié ; limites des Model APIs basses sur Basic; l'accès prioritaire aux GPU exige l'offre Pro sur devis; les requêtes asynchrones stockent temporairement les entrées.
- À qui s’adresse Baseten ?
- Les entreprises qui servent en production des modèles personnalisés ou affinés et ont besoin d'une absence de conservation des données, de HIPAA et de la possibilité de tourner dans leur propre cloud.
- Combien coûte Baseten pour une équipe ou en production ?
- Un H100 à 0,10833 $ la minute revient à environ 4 680 $ par mois s'il n'est jamais inactif, contre environ 2 844 $ chez Modal ; la facturation à la minute, sans frais pour le temps d'inactivité, réduit cet écart pour un trafic en pics.
- Baseten est-il sûr pour les données de l’entreprise ?
- Aucune conservation des données pour les appels synchrones aux Model APIs et à l'inférence dédiée, aucun entraînement sur le contenu des clients ; SOC 2 Type II et HIPAA sur toutes les offres ; contrôle de la résidence des données et auto-hébergement sur Enterprise.
- Quelles sont les meilleures alternatives à Baseten ?
- Les alternatives les plus proches que nous avons testées sont Modal, Together AI, Fireworks AI et Replicate.
Réponses vérifiées le 26 oct. 2026.