Skip to content

Nemotron ColEmbed V2

Les récupérateurs à interaction tardive de NVIDIA qui recherchent des images de page sans OCR : précis, gourmands en stockage et non commerciaux à chaque taille.

Avis de Andrew Miller · Mis à jour

Notre note

3.8/5

Assez précis pour être l'étalon de la recherche sur image de page, et sous licence telle qu'un étalon est tout ce que la plupart des entreprises peuvent en faire.

Qu’est-ce que Nemotron ColEmbed V2 ?

Nemotron ColEmbed V2 est une famille de modèles de récupération de documents visuels de NVIDIA, sortie en janvier 2026 en tailles 3B, 4B et 8B. Vous indexez chaque page de document comme une image, sans OCR ni analyse de mise en page, et la recherchez avec une question en texte. Le modèle 8B est bâti sur Qwen3-VL-8B-Instruct et a environ 8,8 milliards de paramètres ; le 3B est bâti sur Llama 3.2.

C'est un modèle à interaction tardive dans le style de ColBERT et ColPali : au lieu d'un vecteur par page, il produit un vecteur à 4 096 dimensions pour chaque token, et note une correspondance en comparant chaque token de requête avec son token de page le mieux correspondant. Les images sont découpées en jusqu'à huit tuiles de 512 sur 512 plus une vignette, à 256 tokens par tuile.

Aucune des tailles ne peut être utilisée commercialement. Le 4B et le 8B sont sous licence CC BY-NC 4.0 ; le 3B utilise la propre licence non commerciale de NVIDIA, qui limite l'usage à la recherche et à l'éducation.

Nemotron ColEmbed V2 vaut-il le coup ?

Nemotron ColEmbed V2 est un modèle de recherche avec une précision de niveau production et une licence qui le tient hors de la production. La fiche de NVIDIA rapporte un NDCG@10 moyen de 63,54 sur ViDoRe v3 pour le 8B, premier sur ce benchmark lors de sa publication le 26 janvier 2026, plus 92,65 sur ViDoRe v1 et 65,16 sur v2, où il était troisième derrière le ColQwen3 8B de Tomoro. Le 4B obtient 61,42 sur v3 et le 3B 59,70. Ce sont les chiffres de NVIDIA, produits avec le harnais public MTEB, si bien qu'ils peuvent être reproduits, mais le classement a bougé depuis janvier.

Le stockage est la facture qui arrive plus tard. Le 8B émet un vecteur à 4 096 dimensions pour chaque token, et une page peut utiliser neuf tuiles de 256 tokens. Selon notre calcul à partir des chiffres de la fiche, cela fait jusqu'à environ 19 MB par page en BF16, soit environ 19 To pour un million de pages avant tout pooling ou quantification. Le ColQwen3 8B sous licence Apache de Tomoro utilise 320 dimensions et au plus 1 280 tokens par page, ce que sa fiche chiffre à environ 0,82 To par million d'images. L'étape de notation a aussi besoin d'un magasin de vecteurs avec prise en charge multi-vecteurs (MaxSim), ce qui exclut beaucoup de configurations à vecteur unique.

La licence ferme la porte commerciale à chaque taille. Le 4B et le 8B sont CC BY-NC 4.0, et le 3B, bâti sur Llama 3.2, est sous la propre licence non commerciale de NVIDIA, qui restreint l'usage aux « fins de recherche et d'éducation non commerciales » tout en réservant l'usage commercial à NVIDIA lui-même. La fiche ne liste aucun conteneur NIM ou endpoint hébergé, et aucun fournisseur d'inférence Hugging Face ne le sert.

Le faire tourner est aussi un chemin étroit : Linux uniquement, testé sur des cartes A100 et H100, flash-attn épinglé à la version 2.6.3 et le code distant activé. Les poids du 8B font environ 17,5 GB. Pour une équipe qui se demande si l'OCR plus un embedder de texte suffit pour une archive de scans, c'est un plafond utile à mesurer, et l'écart par tâche sur la fiche, de 79,30 sur les pages d'informatique à 50,84 en physique, dit que la réponse dépendra fortement des documents.

Là où il fait la différence

  • Un chercheur en recherche d'information dans un laboratoire universitaire

    Comparer un nouveau récupérateur visuel à une base ouverte solide

    Charger le 8B dans Transformers et exécuter mteb 2.7 ou ultérieur sur ViDoRe v3 ; les scores par tâche de NVIDIA donnent une cible reproductible. L'usage académique est exactement ce que la licence CC BY-NC autorise.

  • Un ingénieur ML chez un assureur avec des millions de formulaires de sinistre scannés

    Décider si le pipeline OCR vaut la peine d'être gardé

    Indexer quelques milliers de pages d'échantillon avec le 8B comme plafond de précision et le comparer à l'OCR plus un embedder de texte. La licence exclut de le déployer, si bien que le résultat éclaire un choix entre l'OCR et un modèle ColQwen sous licence Apache.

  • Un responsable de plateforme de données qui dimensionne un index multi-vecteurs

    Estimer le stockage avant de s'engager sur l'interaction tardive

    À jusqu'à 2 304 tokens de 4 096 valeurs BF16 par page, une archive de 100 000 pages a besoin de jusqu'à environ 1,9 To de vecteurs, contre environ 82 GB pour le ColQwen3 à 320 dimensions de Tomoro par le même calcul. Cet écart décide généralement de l'architecture avant la précision.

Avant de vous engager

Mise en route
Installez transformers 4.57.2 ou ultérieur et flash-attn 2.6.3, puis chargez avec trust_remote_code en bfloat16. NVIDIA teste uniquement sur Linux avec A100 40GB ou 80GB et H100 80GB ; les images entrent comme objets PIL.
Intégrations
Transformers et le harnais d'évaluation MTEB. Aucun NIM, API hébergée ou fournisseur d'inférence Hugging Face n'est listé, et la récupération a besoin d'une base de données vectorielle avec notation multi-vecteurs (MaxSim).
Données et confidentialité
Auto-hébergé, si bien que les documents restent sur votre matériel. Le 4B et le 8B sont CC BY-NC 4.0 et le 3B est sous la Non-Commercial License de NVIDIA ; les deux interdisent l'usage commercial, et le 3B hérite aussi de la licence Llama 3.2.
Coût à grande échelle
Il n'y a pas de niveau payant. Le coût est le temps de GPU pour indexer plus le stockage : selon notre calcul, jusqu'à environ 19 MB par page non compressé, soit environ 19 To par million de pages, contre environ 0,82 To par million pour le ColQwen3 8B de Tomoro selon sa fiche.
Limites
Évalué jusqu'à 10 240 tokens ; jusqu'à huit tuiles plus une vignette par image. Les liens de modèle de la fiche sont incohérents et le lien du 4B dans ses tableaux est cassé.

Les points forts

  • 63,54 de moyenne sur ViDoRe v3 pour le 8B, selon NVIDIA
  • Indexe les images de page directement, sans OCR ni analyse de mise en page
  • Tailles 3B, 4B et 8B pour échanger précision contre coût

Les points faibles

  • Licence non commerciale sur les trois tailles
  • 4 096 dimensions par token : jusqu'à environ 19 MB par page non compressé
  • Linux, A100 ou H100, et flash-attn 2.6.3 épinglé uniquement
  • Aucun endpoint hébergé ou NIM listé

Idéal pour

Les chercheurs et équipes d'évaluation qui ont besoin d'une base ouverte solide pour la récupération de documents visuels et ne prévoient pas de la livrer.

Alternatives à Nemotron ColEmbed V2

Nemotron ColEmbed V2 : questions fréquentes

Nemotron ColEmbed V2 vaut-il le coup ?
Assez précis pour être l'étalon de la recherche sur image de page, et sous licence telle qu'un étalon est tout ce que la plupart des entreprises peuvent en faire. Nous lui donnons 3.8 sur 5.
Combien coûte Nemotron ColEmbed V2 ?
Poids gratuits pour un usage non commercial et de recherche (CC BY-NC 4.0).
Quels sont les inconvénients de Nemotron ColEmbed V2 ?
Licence non commerciale sur les trois tailles; 4 096 dimensions par token : jusqu'à environ 19 MB par page non compressé; linux, A100 ou H100, et flash-attn 2.6.3 épinglé uniquement; aucun endpoint hébergé ou NIM listé.
À qui s’adresse Nemotron ColEmbed V2 ?
Les chercheurs et équipes d'évaluation qui ont besoin d'une base ouverte solide pour la récupération de documents visuels et ne prévoient pas de la livrer.
Combien coûte Nemotron ColEmbed V2 pour une équipe ou en production ?
Il n'y a pas de niveau payant. Le coût est le temps de GPU pour indexer plus le stockage : selon notre calcul, jusqu'à environ 19 MB par page non compressé, soit environ 19 To par million de pages, contre environ 0,82 To par million pour le ColQwen3 8B de Tomoro selon sa fiche.
Nemotron ColEmbed V2 est-il sûr pour les données de l’entreprise ?
Auto-hébergé, si bien que les documents restent sur votre matériel. Le 4B et le 8B sont CC BY-NC 4.0 et le 3B est sous la Non-Commercial License de NVIDIA ; les deux interdisent l'usage commercial, et le 3B hérite aussi de la licence Llama 3.2.
Quelles sont les meilleures alternatives à Nemotron ColEmbed V2 ?
Les alternatives les plus proches que nous avons testées sont Qwen3-VL-Embedding, Cohere Embed 5 et Jina Embeddings v5.

Réponses vérifiées le 22 oct. 2026.