Fournisseur d'inférence
Un fournisseur d'inférence (inference provider) est une entreprise qui fait tourner des modèles d'IA sur son propre matériel et en vend l'accès par une API, généralement facturée au token. Vous envoyez des prompts et recevez des sorties sans gérer vous-même de GPU.
Aussi appelé : model host, inference API, model API provider
Par Divya Sharma · Vérifié le 15 nov. 2026 · Notre méthode
Faire tourner un modèle exige des GPU, un serveur de modèles, une mise à l'échelle et une surveillance. Un fournisseur d'inférence s'occupe de tout cela et expose le modèle sous forme d'API. Certains, comme les grands laboratoires, ne servent que leurs propres modèles. D'autres, comme Together AI, Fireworks AI, Groq, Baseten et Replicate, hébergent de nombreux modèles à poids ouverts, si bien que vous pouvez utiliser le même modèle auprès de plusieurs entreprises.
Ce qui les distingue
Des fournisseurs qui servent le même modèle peuvent beaucoup différer en prix, en vitesse, en fenêtre de contexte, en limites de débit et en quantification, car certains font tourner des versions de moindre précision pour réduire les coûts. Beaucoup exposent une API compatible OpenAI : changer de fournisseur revient donc souvent à changer d'URL de base et de clé. Comparez les prix actuels au token sur notre page prix des modèles d'IA.
Agrégateurs
Des routeurs se placent devant de nombreux fournisseurs. Inference Providers de Hugging Face, par exemple, donne accès à des modèles de plusieurs fournisseurs partenaires avec un seul jeton et un point d'accès compatible OpenAI, et peut choisir le fournisseur le plus rapide ou le moins cher pour chaque modèle. OpenRouter fonctionne de façon similaire. Ces services simplifient le repli d'un fournisseur à l'autre.
Fournisseur d'inférence ou cloud GPU
Un cloud GPU vous loue des machines et c'est vous qui faites tourner le modèle. Un fournisseur d'inférence vous loue la sortie du modèle. Le premier donne plus de contrôle ; le second demande moins de travail.
Ce qu'il faut vérifier
L'endroit où les requêtes sont traitées, et le fait qu'elles soient conservées ou utilisées pour l'entraînement, comptent pour la confidentialité et la résidence des données. Lisez les conditions de chaque fournisseur relatives aux données et vérifiez s'il propose la zero data retention.
Termes liés
- Service de modèles
- Le service de modèles (model serving) consiste à faire tourner un modèle entraîné comme un service que les applications appellent sur le réseau, avec un logiciel qui charge les poids sur les GPU, met en file et regroupe les requêtes, gère la mémoire et renvoie les résultats.
- API compatible OpenAI
- Une API compatible OpenAI (OpenAI-compatible API) est un point de terminaison d'un autre fournisseur ou outil qui accepte le même format de requête et de réponse que l'API d'OpenAI, si bien que du code écrit pour OpenAI peut y basculer en changeant l'URL de base, la clé et le nom du modèle.
- Tarification au token
- La tarification au token (token pricing) est la façon dont la plupart des API de modèles d'IA facturent : un prix fixe par million de tokens d'entrée envoyés et un prix distinct, généralement plus élevé, par million de tokens de sortie générés par le modèle, avec des remises pour les entrées en cache et les traitements batch.
- Cloud GPU
- Un cloud GPU est un service qui loue des machines à GPU à l'heure ou à la seconde pour l'entraînement, le fine-tuning et l'inférence en IA. Des fournisseurs spécialisés, parfois appelés neoclouds, se concentrent sur les GPU et facturent souvent moins cher que les grands clouds généralistes.
- Modèle de repli
- Le repli de modèle (model fallback) est une règle qui envoie une requête à un modèle ou un fournisseur de secours quand le premier choix échoue, expire, atteint une limite de débit ou rejette l'entrée. Il maintient une fonction d'IA en état de marche pendant les pannes.