Qwen3.8-Flash-Next : configuration GPU requise, VRAM et GPU le moins cher
Qwen3.8-Flash-Next compte 180 Md paramètres, publiés en BF16. C’est un modèle à mélange d’experts : 10 de ses 512 experts traitent chaque token, soit environ 61,6 Md paramètres, il génère donc à peu près à la vitesse d’un modèle de cette taille. Tous les experts doivent malgré tout résider en mémoire GPU, d’où des chiffres de mémoire ci-dessous pour le modèle complet. Sa licence (qwen-community-1.0) ajoute ses propres conditions : lisez-la avant tout usage commercial.
- Paramètres
- 180 Md
- Empreinte minimale (INT4)
- environ 105 Go
- GPU le moins cher par heure (FP16)
- 2,39 $US
- Type
- Vision
Qwen/Qwen3.8-Flash-Next
Voir sur Hugging Face (s’ouvre dans un nouvel onglet)Lire notre test
- Paramètres 180 Md
- Actifs par token 61,6 Md
- Type Vision
- Tâche image-text-to-text
- Contexte max. 256K
- Licence qwen-community-1.0
- Téléchargements 3,1 M
- J’aime 7,1 k
Calcul pour Qwen3.8-Flash-Next
Plus de réglages
Qwen3.8-Flash-Next demande environ 397 Go de mémoire GPU
Inférence (vLLM), FP16 / BF16, contexte de 8K tokens, une requête à la fois.
Où va la mémoire
- Poids 360 Go
- Cache KV 0,2 Go
- Surcoût du moteur 37 Go
- Total 397 Go
Le nombre de GPU laisse 10 % de chaque carte libre pour les pics. Prévoyez davantage si vous attendez de longs prompts ou beaucoup d’utilisateurs en même temps.
| Rang | Configuration | Par GPU / h | GPU nécessaires | Total / h | Total / mois (24/7) | Fournisseur |
|---|---|---|---|---|---|---|
| 1 | 3 × MI300X 192GBLa moins chèreCDNA 3 · HBM3 | 2,39 $US | 3vendue avec 4 GPU ; il vous en faut 3 | 9,56 $US | 6 979 $US | RunPod (s’ouvre dans un nouvel onglet)4x MI300X |
| 2 | 5 × RTX PRO 6000 96GBBlackwell · GDDR7 | 1,80 $US | 5vendue avec 8 GPU ; il vous en faut 5 | 14,40 $US | 10 512 $US | Nebius (s’ouvre dans un nouvel onglet)8x RTX PRO 6000 96GB |
| 3 | 4 × H200 141GBHopper · HBM3e | 3,79 $US | 4 | 15,16 $US | 11 067 $US | RunPod (s’ouvre dans un nouvel onglet)4x H200 NVL |
| 4 | 6 × A100 80GBAmpere · HBM2e | 2,09 $US | 6vendue avec 8 GPU ; il vous en faut 6 | 16,72 $US | 12 206 $US | RunPod (s’ouvre dans un nouvel onglet)8x A100 PCIe |
| 5 | 2 × B300 288GBBlackwell Ultra · HBM3e | 8,99 $US | 2 | 17,98 $US | 13 125 $US | RunPod (s ’ouvre dans un nouvel onglet)2x B300 |
| 6 | 6 × H100 80GBHopper · HBM3 | 2,89 $US | 6vendue avec 8 GPU ; il vous en faut 6 | 23,12 $US | 16 878 $US | RunPod (s’ouvre dans un nouvel onglet)8x H100 PCIe |
| 7 | 5 × H100 NVL 94GBHopper · HBM3 | 3,19 $US | 5vendue avec 8 GPU ; il vous en faut 5 | 25,52 $US | 18 630 $US | RunPod (s’ouvre dans un nouvel onglet)8x H100 NVL |
| 8 | 3 × B200 180GBBlackwell · HBM3e | 7,79 $US | 3vendue avec 4 GPU ; il vous en faut 3 | 31,16 $US | 22 747 $US | Lambda (s’ouvre dans un nouvel onglet)4x B200 SXM6 |
| 9 | 3 × GB200 186GBBlackwell · HBM3e | 10,50 $US | 3vendue avec 4 GPU ; il vous en faut 3 | 42,00 $US | 30 660 $US | CoreWeave (s’ouvre dans un nouvel onglet)GB200 NVL72 |
| Plus de 8 : plusieurs nœuds nécessaires: L40S 48GB, RTX 6000 Ada 48GB, RTX A6000 48GB, A40 48GB, A100 40GB, RTX 5090 32GB, RTX 4090 24GB, RTX 3090 24GB, L4 24GB, A10 24GB, T4 16GB, V100 16GB | ||||||
| Fournisseur | Instance | Par GPU / h | GPU nécessaires | Total / h | Total / mois (24/7) |
|---|---|---|---|---|---|
| RunPod (s’ouvre dans un nouvel onglet)La moins chère | 4x MI300Xus | 2,39 $US | 3 × MI300X 192GB vendue avec 4 GPU ; il vous en faut 3 | environ 9,56 $US | environ 6 979 $US |
| Nebius (s’ouvre dans un nouvel onglet) | 8x RTX PRO 6000 96GBeu/us | 1,80 $US | 5 × RTX PRO 6000 96GB vendue avec 8 GPU ; il vous en faut 5 | environ 14,40 $US | environ 10 512 $US |
| CoreWeave (s’ouvre dans un nouvel onglet) | RTX PRO 6000 Blackwell Server Edition (High Memory)us | 2,50 $US | 5 × RTX PRO 6000 96GB vendue avec 8 GPU ; il vous en faut 5 | environ 20,00 $US | environ 14 600 $US |
| Vultr (s’ouvre dans un nouvel onglet) | vbm-112c-2048gb-8-a100-gpu (bare metal)us | 2,80 $US | 6 × A100 80GB vendue avec 8 GPU ; il vous en faut 6 | environ 22,40 $US | environ 16 352 $US |
| Vast.ai (s’ouvre dans un nouvel onglet) | 4x H200 (median of 4 offers)place de marché mondiale | 5,67 $US | 4 × H200 141GB | environ 22,68 $US | environ 16 554 $US |
| Lambda (s’ouvre dans un nouvel onglet) | 8x HGX A100us | 3,19 $US | 6 × A100 80GB vendue avec 8 GPU ; il vous en faut 6 | environ 25,52 $US | environ 18 630 $US |
| AWS (s’ouvre dans un nouvel onglet) | p4de.24xlargeus-east-1 | 3,43 $US | 6 × A100 80GB vendue avec 8 GPU ; il vous en faut 6 | environ 27,45 $US | environ 20 036 $US |
| Azure (s’ouvre dans un nouvel onglet) | ND96amsr_A100_v4eastus | 4,10 $US | 6 × A100 80GB vendue avec 8 GPU ; il vous en faut 6 | environ 32,77 $US | environ 23 922 $US |
| Google Cloud (s’ouvre dans un nouvel onglet) | g4-standard-384us-central1 | 4,50 $US | 5 × RTX PRO 6000 96GB vendue avec 8 GPU ; il vous en faut 5 | environ 36,00 $US | environ 26 280 $US |
Prix relevés le 13 nov. 2026. Tous les coûts sont approximatifs : à la demande, en dollars US, surtout des régions des États-Unis (les places de marché comme Vast.ai sont mondiales).
Mémoire par précision et par usage
| Précision | Inférence | Fine-tuning LoRA | Fine-tuning QLoRA | Fine-tuning complet |
|---|---|---|---|---|
| FP16 / BF16 | 397 Go | 463 Go | – | 3 172 Go |
| INT8 | 209 Go | – | – | – |
| INT4 | 105 Go | – | 171 Go | – |
Le GPU le moins cher par précision
Inférence avec un contexte de 8K et une requête à la fois.
FP16 / BF16
environ 397 Go · 8K tokens
Les poids tels que publiés. Aucune perte, mais l’empreinte la plus lourde.
3 × MI300X 192GB
RunPod (s’ouvre dans un nouvel onglet) · 4x MI300X
vendue avec 4 GPU ; il vous en faut 3- Par GPU / h
- 2,39 $US
- GPU nécessaires
- 3
- Total / h
- environ 9,56 $US
- par mois, 24/7, environ
- 6 979 $US
INT8
environ 209 Go · 8K tokens
Des poids deux fois plus légers. Pour le chat et le RAG, la différence se voit à peine.
5 × A40 48GB
RunPod (s’ouvre dans un nouvel onglet) · 8x A40
vendue avec 8 GPU ; il vous en faut 5- Par GPU / h
- 0,59 $US
- GPU nécessaires
- 5
- Total / h
- environ 4,72 $US
- par mois, 24/7, environ
- 3 446 $US
INT4
environ 105 Go · 8K tokens
Des poids quatre fois plus légers. Les petites pertes apparaissent d’abord en maths et en code.
3 × A40 48GB
RunPod (s’ouvre dans un nouvel onglet) · 4x A40
vendue avec 4 GPU ; il vous en faut 3- Par GPU / h
- 0,59 $US
- GPU nécessaires
- 3
- Total / h
- environ 2,36 $US
- par mois, 24/7, environ
- 1 723 $US
Inférence ou fine-tuning
Inférence (FP16)
1×
de la mémoire nécessaire à l’inférence
397 Go
3 × MI300X 192GB · environ 9,56 $US
Fine-tuning LoRA
1,2×
de la mémoire nécessaire à l’inférence
463 Go
3 × MI300X 192GB · environ 9,56 $US
Fine-tuning QLoRA
0,4×
de la mémoire nécessaire à l’inférence
171 Go
4 × A40 48GB · environ 2,36 $US
Fine-tuning complet
8×
de la mémoire nécessaire à l’inférence
3 172 Go
plus d’un nœud de 8 GPU
Pour le servir en FP16, 3 × MI300X 192GB (RunPod) suffit. LoRA demande 3 × MI300X 192GB (RunPod), QLoRA 4 × A40 48GB (RunPod) et un fine-tuning complet plus d’un nœud de 8 GPU. L’entraînement garde en mémoire les activations et l’état de l’optimiseur en plus des poids, d’où un besoin fréquent de plus de GPU que pour servir le même modèle.
Fonctionne-t-il sur un Mac ou une seule RTX 4090 ?
RTX 4090 (24 Go)
Pas seule. Même en INT4, il demande environ 105 Go, plus que les 24 Go de la carte. Deux cartes ou plus, ou un GPU de centre de données plus grand, suffisent.
Mac avec puce Apple
Oui, avec assez de mémoire. En INT4, il demande environ 105 Go, donc un Mac avec 192 Go ou plus de mémoire unifiée (macOS en laisse environ les trois quarts au GPU). La génération sera plus lente que sur un GPU de centre de données.
L’héberger vous-même ou payer au token ?
L’héberger vous-même
La configuration FP16 la moins chère que nous ayons trouvée est 3 × MI300X 192GB chez RunPod, environ 6 979 $US par mois en continu. Intéressant pour un trafic régulier ou des données qui doivent rester sur vos machines.
Passer par une API hébergée
Notre test de Qwen3.8-Flash-Next indique où l’utiliser via une API et à quel prix. Payer au token revient souvent moins cher pour un trafic faible ou irrégulier.
Lire notre testModèles similaires
Des modèles ouverts de taille comparable.
- DeepSeek-V4.1-Flash-1017 GSQ-RCO Coder (GGUF)Vision196,6 Md · environ 437 Go FP16 · 402,7 k ↓Besoins en GPU
- Command A+Vision218,8 Md · environ 483 Go FP16 · 4,5 k ↓Besoins en GPU
- MiniMax-M3.1-FlashVision220,5 Md · environ 487 Go FP16 · 61,6 k ↓Besoins en GPU
- Qwen3.5 122B A10BVision125,1 Md · environ 276 Go FP16 · 810,1 k ↓Besoins en GPU
- Nemotron 3.5 Super VLVision124,5 Md · environ 275 Go FP16 · 80,3 k ↓Besoins en GPU
- Inkling SmallVision266 Md · environ 588 Go FP16 · 1,1 M ↓Besoins en GPU
Qwen3.8-Flash-Next : questions fréquentes
Combien de VRAM faut-il pour Qwen3.8-Flash-Next ?
Environ 397 Go en FP16, 209 Go en INT8 et 105 Go en INT4, avec un contexte de 8K et une requête à la fois. Un contexte plus long et davantage de requêtes en parallèle ajoutent du cache KV.
Quel est le GPU le moins cher pour faire tourner Qwen3.8-Flash-Next ?
3 × MI300X 192GB (environ 2,39 $US par GPU / heure; vendue avec 4 GPU ; il vous en faut 3) chez RunPod, pour environ 9,56 $US de l’heure en inférence FP16 / BF16 avec un contexte de 8K. Prix relevés le 13 nov. 2026 ; ils changent souvent.
Peut-on faire le fine-tuning de Qwen3.8-Flash-Next sur un seul GPU ?
Pas sur un seul GPU. Même QLoRA demande environ 171 Go, plus que ce que contient un GPU de 80 Go. LoRA demande environ 463 Go et un fine-tuning complet environ 3 172 Go.
Comment ces chiffres sont-ils calculés ?
Les poids correspondent aux paramètres multipliés par les octets par paramètre (2 en FP16, 1 en INT8, 0,5 en INT4). Le cache KV dépend des couches, des têtes KV, de la taille de tête et de la longueur de contexte du modèle. Nous ajoutons environ 10 % plus 1 Go pour le moteur et remplissons chaque GPU à 90 %. Les prix sont les tarifs catalogue à la demande dans les régions des États-Unis, relevés sur la page publique de chaque fournisseur.
Qwen3.8-Flash-Next fonctionne-t-il sur un GPU grand public comme la RTX 4090 ?
Pas seule. Même en INT4, il demande environ 105 Go, plus que les 24 Go de la carte. Deux cartes ou plus, ou un GPU de centre de données plus grand, suffisent.
Qwen3.8-Flash-Next tient-il sur une seule H100 80 Go ?
Non. Même en INT4, il demande environ 105 Go : il faut plusieurs GPU.
Combien de GPU faut-il pour Qwen3.8-Flash-Next ?
En FP16 avec un contexte de 8K : 6 × 80 Go, 10 × 48 Go ou 19 × 24 Go. En INT4, les poids prennent environ le quart de la mémoire.
Combien de VRAM faut-il pour Qwen3.8-Flash-Next en INT8 ?
Environ 209 Go : 189 Go pour les poids, 0,2 Go pour un cache KV de 8K et 20 Go de surcoût du moteur.
Combien coûte Qwen3.8-Flash-Next en fonctionnement 24/7 pendant un mois ?
Environ 6 979 $US avec la configuration la moins chère que nous avons trouvée (3 × MI300X 192GB (environ 2,39 $US par GPU / heure; vendue avec 4 GPU ; il vous en faut 3), 9,56 $US de l’heure pendant 730 heures). Le moins cher chez AWS, Google Cloud ou Azure revient à environ 20 036 $US par mois.
FP16, INT8 ou INT4 : lequel choisir ?
Le FP16 garde toute la qualité et demande le plus de mémoire (environ 397 Go ici). L’INT8 divise les poids par deux avec peu de perte pour la plupart des usages de chat. L’INT4 (AWQ, GPTQ ou GGUF Q4) les réduit au quart, environ 105 Go au total, avec une légère baisse de qualité, surtout visible en maths et en code.
Qwen3.8-Flash-Next fonctionne-t-il sur un Mac ?
Oui, avec assez de mémoire. En INT4, il demande environ 105 Go, donc un Mac avec 192 Go ou plus de mémoire unifiée (macOS en laisse environ les trois quarts au GPU). La génération sera plus lente que sur un GPU de centre de données.
vLLM ou llama.cpp ?
vLLM est conçu pour servir de nombreuses requêtes à la fois sur des GPU NVIDIA et AMD et réserve l’essentiel de la mémoire GPU au cache KV. llama.cpp lit les fichiers GGUF sur presque tout, Mac et CPU compris, et convient à une personne ou à une petite équipe. À précision égale, la mémoire nécessaire est proche.
Prix relevés le 13 nov. 2026. Tous les coûts sont approximatifs : à la demande, en dollars US, surtout des régions des États-Unis (les places de marché comme Vast.ai sont mondiales).
Notre méthode de calcul
- Poids. Paramètres multipliés par les octets par paramètre : 2 en FP16, 1 en INT8, 0,5 en INT4, plus environ 5 % pour les échelles de quantification en INT8 et INT4.
- Cache KV. 2 × couches × têtes KV × taille de tête × contexte × requêtes × 2 octets, d’après le config.json du modèle. Si une valeur manque, nous l’estimons et le signalons.
- Surcoût. Environ 10 % plus 1 Go pour le moteur, dans la ligne de ce que réserve vLLM.
- Fine-tuning. LoRA garde des poids en 16 bits et ajoute un petit adaptateur, son optimiseur et les activations. QLoRA fait de même sur des poids en 4 bits. Un fine-tuning complet demande environ 16 octets par paramètre avec Adam en précision mixte (poids, gradients et états de l’optimiseur), plus les activations.
- GPU. Nous remplissons chaque GPU à 90 % de sa mémoire et nous arrêtons à 8 par nœud. Les coûts sont les prix catalogue à la demande dans les régions des États-Unis ; pour les places de marché, nous montrons l’offre médiane.