Aller au contenu
ReviewRamble

La lettre hebdomadaire

L’IA, évaluée, dans votre boîte mail.

  • Les nouveaux tests d’outils, de modèles, de serveurs MCP et de dépôts, avec le verdict en premier
  • Les prix et les notes revérifiés quand quelque chose change
  • Les nouvelles analyses dès leur publication

Modèles, agents, serveurs MCP et les outils qui méritent vraiment votre temps.

Un e-mail par semaine. Désinscrivez-vous avec le lien présent dans chaque lettre. Comment nous utilisons votre e-mail

MiniCPM-V 4.7 (35B-A3B and 1B) : configuration GPU requise, VRAM et GPU le moins cher

MiniCPM-V 4.7 (35B-A3B and 1B) compte 35,2 Md paramètres, publiés en BF16. C’est un modèle à mélange d’experts : 8 de ses 256 experts traitent chaque token, soit environ 3 Md paramètres, il génère donc à peu près à la vitesse d’un modèle de cette taille. Tous les experts doivent malgré tout résider en mémoire GPU, d’où des chiffres de mémoire ci-dessous pour le modèle complet. Il est publié sous apache-2.0, qui autorise l’usage commercial.

Paramètres
35,2 Md
Empreinte minimale (INT4)
environ 22 Go
GPU le moins cher par heure (FP16)
0,50 $US
Type
Vision
  • Paramètres 35,2 Md
  • Actifs par token 3 Md
  • Type Vision
  • Tâche image-text-to-text
  • Contexte max. 256K
  • Licence apache-2.0
  • Téléchargements 876,3 k
  • J’aime 1,1 k

Calcul pour MiniCPM-V 4.7 (35B-A3B and 1B)

Précision
Usage
Plus de réglages
Moteur d’inférence
Requêtes simultanées

MiniCPM-V 4.7 (35B-A3B and 1B) demande environ 79 Go de mémoire GPU

Inférence (vLLM), FP16 / BF16, contexte de 8K tokens, une requête à la fois.

Où va la mémoire

  • Poids 70 Go
  • Cache KV 0,17 Go
  • Surcoût du moteur 8,1 Go
  • Total 79 Go

Le nombre de GPU laisse 10 % de chaque carte libre pour les pics. Prévoyez davantage si vous attendez de longs prompts ou beaucoup d’utilisateurs en même temps.

Les GPU qui conviennent, du moins cher au plus cherChaque type de GPU suivi capable d’accueillir cette configuration sur un nœud, classé par coût horaire total
RangConfigurationPar GPU / hGPU nécessairesTotal / hTotal / mois (24/7)Fournisseur
11 × RTX PRO 6000 96GBLa moins chèreBlackwell · GDDR70,50 $US10,50 $US365 $USRunPod (s’ouvre dans un nouvel onglet)1x RTX PRO 6000 MaxQ
24 × RTX 3090 24GBAmpere · GDDR6X0,24 $US40,96 $US702 $USVast.ai (s’ouvre dans un nouvel onglet)4x RTX 3090 (median of 9 offers)
32 × A40 48GBAmpere · GDDR60,59 $US21,18 $US861 $USRunPod (s’ouvre dans un nouvel onglet)2x A40
42 × RTX A6000 48GBAmpere · GDDR60,69 $US21,38 $US1 007 $USRunPod (s’ouvre dans un nouvel onglet)2x RTX A6000
52 × L40S 48GBAda Lovelace · GDDR60,80 $US21,60 $US1 169 $USVast.ai (s’ouvre dans un nouvel onglet)2x L40S (median of 6 offers)
61 × GH200 96GBHopper · HBM31,99 $US11,99 $US1 453 $USVultr (s’ouvre dans un nouvel onglet)vbm-72c-480gb-gh200-gpu (bare metal)
72 × RTX 6000 Ada 48GBAda Lovelace · GDDR61,09 $US22,18 $US1 591 $USRunPod (s’ouvre dans un nouvel onglet)2x RTX 6000 Ada
84 × RTX 4090 24GBAda Lovelace · GDDR6X0,58 $US42,32 $US1 696 $USVast.ai (s’ouvre dans un nouvel onglet)4x RTX 4090 (median of 12 offers)
91 × MI300X 192GBCDNA 3 · HBM32,39 $US12,39 $US1 745 $USRunPod (s’ouvre dans un nouvel onglet)1x MI300X
102 × A100 80GBAmpere · HBM2e1,20 $US22,40 $US1 754 $USVast.ai (s’ouvre dans un nouvel onglet)2x A100 SXM4 (median of 12 offers)
113 × A100 40GBAmpere · HBM20,62 $US3vendue avec 4 GPU ; il vous en faut 32,46 $US1 799 $USVast.ai (s’ouvre dans un nouvel onglet)4x A100 SXM4 (median of 5 offers)
124 × L4 24GBAda Lovelace · GDDR60,69 $US42,76 $US2 015 $USRunPod (s’ouvre dans un nouvel onglet)4x L4
131 × H200 141GBHopper · HBM3e2,90 $US12,90 $US2 117 $USLium (s’ouvre dans un nouvel onglet)1x H200 NVL
141 × H100 NVL 94GBHopper · HBM33,19 $US13,19 $US2 329 $USRunPod (s’ouvre dans un nouvel onglet)1x H100 NVL
153 × RTX 5090 32GBBlackwell · GDDR70,80 $US3vendue avec 4 GPU ; il vous en faut 33,20 $US2 338 $USVast.ai (s’ouvre dans un nouvel onglet)4x RTX 5090 (median of 35 offers)
162 × H100 80GBHopper · HBM32,14 $US24,27 $US3 119 $USVast.ai (s’ouvre dans un nouvel onglet)2x H100 SXM (median of 5 offers)
171 × B200 180GBBlackwell · HBM3e5,60 $US15,60 $US4 088 $USLium (s’ouvre dans un nouvel onglet)1x B200
184 × A10 24GBAmpere · GDDR61,42 $US45,67 $US4 141 $USAWS (s’ouvre dans un nouvel onglet)g5.12xlarge
196 × V100 16GBVolta · HBM20,79 $US6vendue avec 8 GPU ; il vous en faut 66,32 $US4 614 $USLambda (s’ouvre dans un nouvel onglet)8x Tesla V100
206 × T4 16GBTuring · GDDR60,98 $US6vendue avec 8 GPU ; il vous en faut 67,82 $US5 712 $USAWS (s’ouvre dans un nouvel onglet)g4dn.metal
211 × B300 288GBBlackwell Ultra · HBM3e8,00 $US18,00 $US5 840 $USLium (s’ouvre dans un nouvel onglet)1x B300 SXM6
221 × GB200 186GBBlackwell · HBM3e10,50 $US1vendue avec 4 GPU ; il vous en faut 142,00 $US30 660 $USCoreWeave (s’ouvre dans un nouvel onglet)GB200 NVL72
Coût par cloudOffre la moins chère qui convient, par fournisseur. Approximatif, prix relevés le 16 nov. 2026.
FournisseurInstancePar GPU / hGPU nécessairesTotal / hTotal / mois (24/7)
RunPod (s’ouvre dans un nouvel onglet)La moins chère1x RTX PRO 6000 MaxQus0,50 $US1 × RTX PRO 6000 96GB environ 0,50 $USenviron 365 $US
Vast.ai (s’ouvre dans un nouvel onglet)4x RTX 3090 (median of 9 offers)place de marché mondiale0,24 $US4 × RTX 3090 24GB environ 0,96 $USenviron 702 $US
Lium (s’ouvre dans un nouvel onglet)1x RTX PRO 6000 Blackwell Server Editionplace de marché mondiale1,19 $US1 × RTX PRO 6000 96GB environ 1,19 $USenviron 869 $US
Nebius (s’ouvre dans un nouvel onglet)1x RTX PRO 6000 96GBeu/us1,80 $US1 × RTX PRO 6000 96GB environ 1,80 $USenviron 1 314 $US
Vultr (s’ouvre dans un nouvel onglet)vbm-72c-480gb-gh200-gpu (bare metal)us1,99 $US1 × GH200 96GB environ 1,99 $USenviron 1 453 $US
Lambda (s’ouvre dans un nouvel onglet)2x A6000us1,09 $US2 × RTX A6000 48GB environ 2,18 $USenviron 1 591 $US
AWS (s’ouvre dans un nouvel onglet)g7e.2xlargeus-east-13,36 $US1 × RTX PRO 6000 96GB environ 3,36 $USenviron 2 455 $US
Google Cloud (s’ouvre dans un nouvel onglet)g2-standard-48us-central11,00 $US4 × L4 24GB environ 4,00 $USenviron 2 921 $US
CoreWeave (s’ouvre dans un nouvel onglet)GH200us6,50 $US1 × GH200 96GB environ 6,50 $USenviron 4 745 $US
Azure (s’ouvre dans un nouvel onglet)NC40ads_H100_v5eastus6,98 $US1 × H100 NVL 94GB environ 6,98 $USenviron 5 095 $US

Prix relevés le 16 nov. 2026. Tous les coûts sont approximatifs : à la demande, en dollars US, surtout des régions des États-Unis (les places de marché comme Vast.ai et Lium sont mondiales).

Mémoire par précision et par usage

Avec un contexte de 8K tokens et une requête à la fois. LoRA et le fine-tuning complet partent de poids en 16 bits, QLoRA de 4 bits : les autres cases restent vides.
PrécisionInférenceFine-tuning LoRAFine-tuning QLoRAFine-tuning complet
FP16 / BF1679 Go93 Go–623 Go
INT842 Go–––
INT422 Go–36 Go–

Le GPU le moins cher par précision

Inférence avec un contexte de 8K et une requête à la fois.

FP16 / BF16

environ 79 Go · 8K tokens

Les poids tels que publiés. Aucune perte, mais l’empreinte la plus lourde.

1 × RTX PRO 6000 96GB

RunPod (s’ouvre dans un nouvel onglet) · 1x RTX PRO 6000 MaxQ

Par GPU / h
0,50 $US
GPU nécessaires
1
Total / h
environ 0,50 $US
par mois, 24/7, environ
365 $US

INT8

environ 42 Go · 8K tokens

Des poids deux fois plus légers. Pour le chat et le RAG, la différence se voit à peine.

1 × RTX A6000 48GB

Lium (s’ouvre dans un nouvel onglet) · 1x RTX A6000

Par GPU / h
0,42 $US
GPU nécessaires
1
Total / h
environ 0,42 $US
par mois, 24/7, environ
307 $US

INT4

environ 22 Go · 8K tokens

Des poids quatre fois plus légers. Les petites pertes apparaissent d’abord en maths et en code.

1 × RTX 3090 24GB

Lium (s’ouvre dans un nouvel onglet) · 1x RTX 3090 Ti

Par GPU / h
0,16 $US
GPU nécessaires
1
Total / h
environ 0,16 $US
par mois, 24/7, environ
117 $US

Inférence ou fine-tuning

  • Inférence (FP16)

    1×

    de la mémoire nécessaire à l’inférence

    79 Go

    1 × RTX PRO 6000 96GB · environ 0,50 $US

  • Fine-tuning LoRA

    1,2×

    de la mémoire nécessaire à l’inférence

    93 Go

    3 × A40 48GB · environ 2,36 $US

  • Fine-tuning QLoRA

    0,5×

    de la mémoire nécessaire à l’inférence

    36 Go

    1 × RTX A6000 48GB · environ 0,42 $US

  • Fine-tuning complet

    7,9×

    de la mémoire nécessaire à l’inférence

    623 Go

    4 × MI300X 192GB · environ 9,56 $US

Pour le servir en FP16, 1 × RTX PRO 6000 96GB (RunPod) suffit. LoRA demande 3 × A40 48GB (RunPod), QLoRA 1 × RTX A6000 48GB (Lium) et un fine-tuning complet 4 × MI300X 192GB (RunPod). L’entraînement garde en mémoire les activations et l’état de l’optimiseur en plus des poids, d’où un besoin fréquent de plus de GPU que pour servir le même modèle.

Fonctionne-t-il sur un Mac ou une seule RTX 4090 ?

RTX 4090 (24 Go)

Oui, en INT4 avec un contexte de 8K : environ 22 Go tiennent dans les 24 Go de la carte.

Mac avec puce Apple

Oui, avec assez de mémoire. En INT4, il demande environ 22 Go, donc un Mac avec 32 Go ou plus de mémoire unifiée (macOS en laisse environ les trois quarts au GPU). La génération sera plus lente que sur un GPU de centre de données.

L’héberger vous-même ou payer au token ?

L’héberger vous-même

La configuration FP16 la moins chère que nous ayons trouvée est 1 × RTX PRO 6000 96GB chez RunPod, environ 365 $US par mois en continu. Intéressant pour un trafic régulier ou des données qui doivent rester sur vos machines.

Passer par une API hébergée

Notre test de MiniCPM-V 4.7 (35B-A3B and 1B) indique où l’utiliser via une API et à quel prix. Payer au token revient souvent moins cher pour un trafic faible ou irrégulier.

Lire notre test

Modèles similaires

Des modèles ouverts de taille comparable.

Calculer un autre modèle

MiniCPM-V 4.7 (35B-A3B and 1B) : questions fréquentes

Combien de VRAM faut-il pour MiniCPM-V 4.7 (35B-A3B and 1B) ?

Environ 79 Go en FP16, 42 Go en INT8 et 22 Go en INT4, avec un contexte de 8K et une requête à la fois. Un contexte plus long et davantage de requêtes en parallèle ajoutent du cache KV.

Quel est le GPU le moins cher pour faire tourner MiniCPM-V 4.7 (35B-A3B and 1B) ?

1 × RTX PRO 6000 96GB (environ 0,50 $US par GPU / heure) chez RunPod, pour environ 0,50 $US de l’heure en inférence FP16 / BF16 avec un contexte de 8K. Prix relevés le 16 nov. 2026 ; ils changent souvent.

Peut-on faire le fine-tuning de MiniCPM-V 4.7 (35B-A3B and 1B) sur un seul GPU ?

Oui, avec QLoRA : il faut environ 36 Go, ce qui tient sur un GPU de 80 Go. LoRA demande environ 93 Go et un fine-tuning complet environ 623 Go.

Comment ces chiffres sont-ils calculés ?

Les poids correspondent aux paramètres multipliés par les octets par paramètre (2 en FP16, 1 en INT8, 0,5 en INT4). Le cache KV dépend des couches, des têtes KV, de la taille de tête et de la longueur de contexte du modèle. Nous ajoutons environ 10 % plus 1 Go pour le moteur et remplissons chaque GPU à 90 %. Les prix sont les tarifs catalogue à la demande dans les régions des États-Unis, relevés sur la page publique de chaque fournisseur.

MiniCPM-V 4.7 (35B-A3B and 1B) fonctionne-t-il sur un GPU grand public comme la RTX 4090 ?

Oui, en INT4 avec un contexte de 8K : environ 22 Go tiennent dans les 24 Go de la carte.

MiniCPM-V 4.7 (35B-A3B and 1B) tient-il sur une seule H100 80 Go ?

Oui, en INT8, INT4 avec un contexte de 8K.

Combien de GPU faut-il pour MiniCPM-V 4.7 (35B-A3B and 1B) ?

En FP16 avec un contexte de 8K : 2 × 80 Go, 2 × 48 Go ou 4 × 24 Go. En INT4, les poids prennent environ le quart de la mémoire.

Combien de VRAM faut-il pour MiniCPM-V 4.7 (35B-A3B and 1B) en INT8 ?

Environ 42 Go : 37 Go pour les poids, 0,17 Go pour un cache KV de 8K et 4,7 Go de surcoût du moteur.

Combien coûte MiniCPM-V 4.7 (35B-A3B and 1B) en fonctionnement 24/7 pendant un mois ?

Environ 365 $US avec la configuration la moins chère que nous avons trouvée (1 × RTX PRO 6000 96GB (environ 0,50 $US par GPU / heure), 0,50 $US de l’heure pendant 730 heures). Le moins cher chez AWS, Google Cloud ou Azure revient à environ 2 455 $US par mois.

FP16, INT8 ou INT4 : lequel choisir ?

Le FP16 garde toute la qualité et demande le plus de mémoire (environ 79 Go ici). L’INT8 divise les poids par deux avec peu de perte pour la plupart des usages de chat. L’INT4 (AWQ, GPTQ ou GGUF Q4) les réduit au quart, environ 22 Go au total, avec une légère baisse de qualité, surtout visible en maths et en code.

MiniCPM-V 4.7 (35B-A3B and 1B) fonctionne-t-il sur un Mac ?

Oui, avec assez de mémoire. En INT4, il demande environ 22 Go, donc un Mac avec 32 Go ou plus de mémoire unifiée (macOS en laisse environ les trois quarts au GPU). La génération sera plus lente que sur un GPU de centre de données.

vLLM ou llama.cpp ?

vLLM est conçu pour servir de nombreuses requêtes à la fois sur des GPU NVIDIA et AMD et réserve l’essentiel de la mémoire GPU au cache KV. llama.cpp lit les fichiers GGUF sur presque tout, Mac et CPU compris, et convient à une personne ou à une petite équipe. À précision égale, la mémoire nécessaire est proche.

Prix relevés le 16 nov. 2026. Tous les coûts sont approximatifs : à la demande, en dollars US, surtout des régions des États-Unis (les places de marché comme Vast.ai et Lium sont mondiales).

Notre méthode de calcul

  • Poids. Paramètres multipliés par les octets par paramètre : 2 en FP16, 1 en INT8, 0,5 en INT4, plus environ 5 % pour les échelles de quantification en INT8 et INT4.
  • Cache KV. 2 × couches × têtes KV × taille de tête × contexte × requêtes × 2 octets, d’après le config.json du modèle. Si une valeur manque, nous l’estimons et le signalons.
  • Surcoût. Environ 10 % plus 1 Go pour le moteur, dans la ligne de ce que réserve vLLM.
  • Fine-tuning. LoRA garde des poids en 16 bits et ajoute un petit adaptateur, son optimiseur et les activations. QLoRA fait de même sur des poids en 4 bits. Un fine-tuning complet demande environ 16 octets par paramètre avec Adam en précision mixte (poids, gradients et états de l’optimiseur), plus les activations.
  • GPU. Nous remplissons chaque GPU à 90 % de sa mémoire et nous arrêtons à 8 par nœud. Les coûts sont les prix catalogue à la demande dans les régions des États-Unis ; pour les places de marché, nous montrons l’offre médiane.