Skip to content
ReviewRamble

The weekly brief

AI, reviewed, in your inbox.

  • New reviews of tools, models, MCP servers and repos, with the verdict up front
  • Re-checked prices and ratings when something changes
  • New analysis pieces as they are published

Models, agents, MCP servers and the tools actually worth your time.

One email a week. Unsubscribe with the link in any brief. How we use your email

Nemotron ColEmbed V2

OCRなしでページ画像を検索するNVIDIAのlate interaction型リトリーバーです。正確ですが、ストレージを大量に使い、どのサイズも非商用です。

レビュー: Andrew Miller · 更新

当サイトの評価

3.8/5

ページ画像検索の基準になるほど正確ですが、ライセンスのせいで、多くの企業にとっては基準として使うことしかできません。

Nemotron ColEmbed V2とは?

Nemotron ColEmbed V2はNVIDIAの視覚的な文書検索モデルのファミリーで、2026年1月に3B、4B、8Bのサイズで公開されました。OCRやレイアウト解析なしで文書の各ページを画像としてインデックス化し、テキストの質問で検索します。8BモデルはQwen3-VL-8B-Instructをベースにした約88億パラメータのモデルで、3BはLlama 3.2をベースにしています。

ColBERTやColPaliと同じlate interaction型のモデルです。ページごとに1つのベクトルではなく、トークンごとに4,096次元のベクトルを出力し、クエリの各トークンをページ内で最も一致するトークンと比べて一致度を採点します。画像は最大8枚の512×512のタイルとサムネイルに分割され、タイルあたり256トークンです。

どのサイズも商用利用できません。4Bと8BはCC BY-NC 4.0、3Bは研究と教育に用途を限るNVIDIA独自の非商用ライセンスです。

Nemotron ColEmbed V2は使う価値があるか?

Nemotron ColEmbed V2は、本番水準の精度を持ちながら、ライセンスによって本番から締め出された研究用モデルです。NVIDIAのカードは、8BのViDoRe v3での平均NDCG@10を63.54と報告しており、2026年1月26日の公開時点でこのベンチマークの1位でした。ViDoRe v1では92.65、v2では65.16で、v2ではTomoroのColQwen3 8Bに次ぐ3位でした。4Bはv3で61.42、3Bは59.70です。これらは公開されたMTEBの評価環境で出したNVIDIAの数値なので再現できますが、1月以降に順位は変わっています。

後から届く請求書がストレージです。8Bはトークンごとに4,096次元のベクトルを出力し、1ページで256トークンのタイルを9枚使うことがあります。カードの数値からの当サイトの計算では、BF16で1ページ最大約19 MB、プーリングや量子化をしなければ100万ページでおよそ19 TBになります。ApacheライセンスのTomoro ColQwen3 8Bは320次元で1ページ最大1,280トークンを使い、そのカードは画像100万枚あたり約0.82 TBとしています。採点の段階では、マルチベクトル(MaxSim)に対応したベクトルストアも必要で、単一ベクトルの構成の多くは使えません。

ライセンスはすべてのサイズで商用の扉を閉ざしています。4Bと8BはCC BY-NC 4.0で、Llama 3.2をベースにした3BはNVIDIA独自の非商用ライセンスのもとにあり、用途を「非商用の研究および教育目的」に限り、商用利用はNVIDIA自身に留保されています。カードにはNIMコンテナもホスト型のエンドポイントも記載されておらず、これを提供するHugging Faceの推論プロバイダーもありません。

動かす道も狭いものです。Linuxのみで、A100とH100のカードでテストされ、flash-attnはバージョン2.6.3に固定され、リモートコードを有効にする必要があります。8Bの重みは約17.5 GBです。スキャン文書のアーカイブにOCRとテキスト埋め込みで十分かを問うチームにとっては、比較のための有用な上限です。カードにあるタスクごとのばらつき、コンピューターサイエンスのページの79.30から物理の50.84までを見ると、答えは文書に大きく左右されそうです。

真価を発揮する場面

  • 大学の研究室の情報検索研究者

    新しい視覚リトリーバーを強力なオープンなベースラインと比較する

    8BをTransformersで読み込み、ViDoRe v3でmteb 2.7以降を実行します。NVIDIAのタスクごとのスコアが再現可能な目標になります。学術利用はまさにCC BY-NCライセンスが認める用途です。

  • 何百万枚ものスキャンした保険金請求書を抱える保険会社のMLエンジニア

    OCRのパイプラインを残す価値があるか判断する

    数千ページのサンプルを精度の上限として8Bでインデックス化し、OCRとテキスト埋め込みの組み合わせと比べます。ライセンス上デプロイはできないため、結果はOCRとApacheライセンスのColQwenモデルのどちらを選ぶかの判断材料になります。

  • マルチベクトルのインデックスの規模を見積もるデータプラットフォームのリード

    late interactionを採用する前にストレージを見積もる

    1ページ最大2,304トークン、各4,096個のBF16の値とすると、100,000ページのアーカイブには最大約1.9 TBのベクトルが必要で、同じ計算でTomoroの320次元のColQwen3なら約82 GBです。たいていは精度より先にこの差がアーキテクチャを決めます。

導入前に確認すること

導入
transformers 4.57.2以降とflash-attn 2.6.3をインストールし、trust_remote_codeを付けてbfloat16で読み込みます。NVIDIAがテストしているのはLinuxでA100 40GBまたは80GB、H100 80GBのみです。画像はPILオブジェクトとして渡します。
連携
TransformersとMTEBの評価環境。NIM、ホスト型API、Hugging Faceの推論プロバイダーは記載されておらず、検索にはマルチベクトル(MaxSim)の採点に対応したベクトルデータベースが必要です。
データとプライバシー
セルフホストなので文書は自前のハードウェアにとどまります。4Bと8BはCC BY-NC 4.0、3BはNVIDIAのNon-Commercial Licenseで、どちらも商用利用を禁じており、3BはLlama 3.2のライセンスも引き継ぎます。
大規模利用時のコスト
有料のティアはありません。費用はインデックス化のGPU時間とストレージです。当サイトの計算では非圧縮で1ページ最大約19 MB、100万ページでおよそ19 TBで、TomoroのColQwen3 8Bはそのカードによると100万あたり約0.82 TBです。
制限
10,240トークンまで評価済み。画像あたり最大8枚のタイルとサムネイル。カードのモデルへのリンクは一貫しておらず、表にある4Bのリンクは切れています。

良い点

  • NVIDIAによると、8BはViDoRe v3で平均63.54
  • OCRやレイアウト解析なしでページ画像を直接インデックス化
  • 精度とコストを選べる3B、4B、8Bのサイズ

気になる点

  • 3つのサイズすべてが非商用ライセンス
  • トークンあたり4,096次元:非圧縮で1ページ最大約19 MB
  • Linux、A100またはH100、固定したflash-attn 2.6.3のみ
  • ホスト型のエンドポイントもNIMも記載なし

おすすめの人

視覚的な文書検索の強力なオープンなベースラインを必要とし、製品として出荷する予定のない研究者や評価チームに向いています。

Nemotron ColEmbed V2の代替

Nemotron ColEmbed V2:よくある質問

Nemotron ColEmbed V2は使う価値があるか?
ページ画像検索の基準になるほど正確ですが、ライセンスのせいで、多くの企業にとっては基準として使うことしかできません。 評価は5点満点中3.8点です。
Nemotron ColEmbed V2の料金は?
非商用および研究用途で重みは無料です(CC BY-NC 4.0)。
Nemotron ColEmbed V2の欠点は?
3つのサイズすべてが非商用ライセンス; トークンあたり4,096次元:非圧縮で1ページ最大約19 MB; Linux、A100またはH100、固定したflash-attn 2.6.3のみ; ホスト型のエンドポイントもNIMも記載なし.
Nemotron ColEmbed V2は誰に向いているか?
視覚的な文書検索の強力なオープンなベースラインを必要とし、製品として出荷する予定のない研究者や評価チームに向いています。
チームや本番環境でNemotron ColEmbed V2を使うと費用はいくらか?
有料のティアはありません。費用はインデックス化のGPU時間とストレージです。当サイトの計算では非圧縮で1ページ最大約19 MB、100万ページでおよそ19 TBで、TomoroのColQwen3 8Bはそのカードによると100万あたり約0.82 TBです。
Nemotron ColEmbed V2は企業データを扱っても安全か?
セルフホストなので文書は自前のハードウェアにとどまります。4Bと8BはCC BY-NC 4.0、3BはNVIDIAのNon-Commercial Licenseで、どちらも商用利用を禁じており、3BはLlama 3.2のライセンスも引き継ぎます。
Nemotron ColEmbed V2の代わりになるものは?
当サイトでレビューした中で最も近い代替はQwen3-VL-Embedding, Cohere Embed 5 、 Jina Embeddings v5です。

回答確認日:2026年10月22日