Nemotron ColEmbed V2의 개요
Nemotron ColEmbed V2는 NVIDIA의 시각 문서 검색 모델 제품군으로, 2026년 1월에 3B, 4B, 8B 크기로 출시되었습니다. 문서의 각 페이지를 OCR이나 레이아웃 분석 없이 이미지로 인덱싱하고, 텍스트 질문으로 검색합니다. 8B 모델은 Qwen3-VL-8B-Instruct를 기반으로 하며 파라미터는 약 88억(8.8 billion)입니다. 3B는 Llama 3.2를 기반으로 합니다.
ColBERT와 ColPali 방식의 late-interaction 모델입니다. 페이지당 벡터 하나가 아니라 토큰마다 4,096차원 벡터를 출력하고, 쿼리 토큰 각각을 가장 잘 맞는 페이지 토큰과 비교해 일치 점수를 매깁니다. 이미지는 512x512(512-by-512) 타일 최대 8개와 썸네일 하나로 나뉘며, 타일당 256 토큰입니다.
어느 크기도 상업적으로 쓸 수 없습니다. 4B와 8B는 CC BY-NC 4.0이고, 3B는 사용을 연구와 교육으로 제한하는 NVIDIA 자체 비상업 라이선스를 씁니다.
Nemotron ColEmbed V2, 쓸 만한 가치가 있습니까?
Nemotron ColEmbed V2는 실서비스급 정확도를 갖췄지만 라이선스 때문에 실서비스에 쓸 수 없는 연구용 모델입니다. NVIDIA 카드는 8B의 ViDoRe v3 평균 NDCG@10을 63.54로 보고하며, 2026년 1월 26일 공개 당시 이 벤치마크 1위였습니다. ViDoRe v1에서는 92.65, v2에서는 65.16으로 Tomoro의 ColQwen3 8B에 이어 3위였습니다. 4B는 v3에서 61.42, 3B는 59.70입니다. 이 수치는 NVIDIA가 공개 MTEB 하네스로 낸 것이어서 재현할 수 있지만, 1월 이후 순위는 바뀌었습니다.
저장 공간은 나중에 청구서로 돌아옵니다. 8B는 토큰마다 4,096차원 벡터를 내고, 한 페이지에 256 토큰짜리 타일 9개를 쓸 수 있습니다. 카드 수치로 저희가 계산하면 BF16 기준 페이지당 최대 약 19 MB, 풀링이나 양자화 전 100만 페이지에 약 19 TB입니다. Tomoro의 Apache 라이선스 ColQwen3 8B는 320차원에 페이지당 최대 1,280 토큰을 쓰며, 카드에 따르면 이미지 100만 장에 약 0.82 TB입니다. 채점 단계에는 multi-vector(MaxSim)를 지원하는 벡터 저장소도 필요해, 단일 벡터 구성 다수는 쓸 수 없습니다.
라이선스는 모든 크기에서 상업적 사용을 막습니다. 4B와 8B는 CC BY-NC 4.0이고, Llama 3.2 기반인 3B는 NVIDIA 자체 비상업 라이선스를 따릅니다. 이 라이선스는 사용을 '비상업적 연구 및 교육 목적'으로 제한하고 상업적 사용은 NVIDIA 자신에게 남겨 둡니다. 카드에는 NIM 컨테이너나 호스팅 엔드포인트가 없고, 이 모델을 제공하는 Hugging Face 추론 업체도 없습니다.
실행 경로도 좁습니다. Linux 전용이고, A100과 H100 카드에서 테스트되었으며, flash-attn은 2.6.3 버전으로 고정되고 remote code를 켜야 합니다. 8B 가중치는 약 17.5 GB입니다. 스캔 문서 아카이브에 OCR과 텍스트 임베더 조합이면 충분한지 묻는 팀에는 비교 기준이 되는 유용한 상한선입니다. 카드의 작업별 편차가 컴퓨터과학 페이지 79.30부터 물리학 50.84까지인 것을 보면, 답은 문서에 따라 크게 달라질 것입니다.
제 역할을 하는 곳
대학 연구실의 정보 검색 연구자
새 시각 검색 모델을 강력한 오픈 기준선과 비교하기
Transformers로 8B를 불러와 ViDoRe v3에서 mteb 2.7 이상을 실행합니다. NVIDIA의 작업별 점수가 재현 가능한 목표가 됩니다. 학술 용도는 CC BY-NC 라이선스가 허용하는 바로 그 범위입니다.
수백만 장의 스캔 청구서를 가진 보험사의 ML 엔지니어
OCR 파이프라인을 유지할 가치가 있는지 판단하기
표본 페이지 수천 장을 8B로 인덱싱해 정확도 상한으로 삼고, OCR과 텍스트 임베더 조합과 비교합니다. 라이선스상 배포는 불가하므로, 결과는 OCR과 Apache 라이선스 ColQwen 모델 중 무엇을 고를지 정하는 데 씁니다.
multi-vector 인덱스 규모를 산정하는 데이터 플랫폼 책임자
late interaction을 도입하기 전에 저장 공간 추정하기
페이지당 최대 2,304 토큰, 토큰당 BF16 값 4,096개면 100,000페이지 아카이브에 최대 약 1.9 TB의 벡터가 필요합니다. 같은 계산으로 Tomoro의 320차원 ColQwen3는 약 82 GB입니다. 보통은 정확도보다 이 차이가 먼저 아키텍처를 결정합니다.
도입 전 확인할 점
- 설정
- transformers 4.57.2 이상과 flash-attn 2.6.3을 설치한 뒤, trust_remote_code를 켜고 bfloat16으로 불러옵니다. NVIDIA는 Linux에서 A100 40GB 또는 80GB와 H100 80GB로만 테스트합니다. 이미지는 PIL 객체로 넣습니다.
- 연동
- Transformers와 MTEB 평가 하네스. NIM, 호스팅 API, Hugging Face 추론 업체는 없으며, 검색에는 multi-vector(MaxSim) 채점을 지원하는 벡터 데이터베이스가 필요합니다.
- 데이터와 개인정보
- 자체 호스팅이므로 문서가 자사 하드웨어에 남습니다. 4B와 8B는 CC BY-NC 4.0, 3B는 NVIDIA Non-Commercial License이며, 둘 다 상업적 사용을 금지합니다. 3B는 Llama 3.2 라이선스도 이어받습니다.
- 대규모 사용 시 비용
- 유료 요금제는 없습니다. 비용은 인덱싱용 GPU 시간과 저장 공간입니다. 저희 계산으로 압축 전 페이지당 최대 약 19 MB, 100만 페이지에 약 19 TB이며, Tomoro의 ColQwen3 8B는 카드 기준 100만 장에 약 0.82 TB입니다.
- 제한
- 평가는 최대 10,240 토큰까지 했습니다. 이미지당 타일 최대 8개와 썸네일 하나입니다. 카드의 모델 링크는 일관되지 않고, 표의 4B 링크는 깨져 있습니다.
좋은 점
- NVIDIA에 따르면 8B는 ViDoRe v3 평균 63.54
- OCR이나 레이아웃 분석 없이 페이지 이미지를 직접 인덱싱
- 정확도와 비용을 맞바꿀 수 있는 3B, 4B, 8B 크기
아쉬운 점
- 세 크기 모두 비상업 라이선스
- 토큰당 4,096차원: 압축 전 페이지당 최대 약 19 MB
- Linux, A100 또는 H100, 고정된 flash-attn 2.6.3 전용
- 호스팅 엔드포인트나 NIM 없음
추천 대상
시각 문서 검색의 강력한 오픈 기준선이 필요하고 이를 제품으로 출시할 계획은 없는 연구자와 평가 팀.
Nemotron ColEmbed V2 대안
Nemotron ColEmbed V2: 자주 묻는 질문
- Nemotron ColEmbed V2, 쓸 만한 가치가 있습니까?
- 페이지 이미지 검색의 기준이 될 만큼 정확하지만, 라이선스 때문에 대부분의 회사는 기준으로밖에 쓸 수 없습니다. 평점은 5점 만점에 3.8점입니다.
- Nemotron ColEmbed V2의 가격은 얼마입니까?
- 비상업 및 연구용 가중치 무료(CC BY-NC 4.0).
- Nemotron ColEmbed V2의 단점은 무엇입니까?
- 세 크기 모두 비상업 라이선스; 토큰당 4,096차원: 압축 전 페이지당 최대 약 19 MB; Linux, A100 또는 H100, 고정된 flash-attn 2.6.3 전용; 호스팅 엔드포인트나 NIM 없음.
- Nemotron ColEmbed V2에 적합한 사람은 누구입니까?
- 시각 문서 검색의 강력한 오픈 기준선이 필요하 고 이를 제품으로 출시할 계획은 없는 연구자와 평가 팀.
- 팀이나 프로덕션 환경에서 Nemotron ColEmbed V2의 비용은 얼마입니까?
- 유료 요금제는 없습니다. 비용은 인덱싱용 GPU 시간과 저장 공간입니다. 저희 계산으로 압축 전 페이지당 최대 약 19 MB, 100만 페이지에 약 19 TB이며, Tomoro의 ColQwen3 8B는 카드 기준 100만 장에 약 0.82 TB입니다.
- Nemotron ColEmbed V2에 회사 데이터를 맡겨도 안전합니까?
- 자체 호스팅이므로 문서가 자사 하드웨어에 남습니다. 4B와 8B는 CC BY-NC 4.0, 3B는 NVIDIA Non-Commercial License이며, 둘 다 상업적 사용을 금지합니다. 3B는 Llama 3.2 라이선스도 이어받습니다.
- Nemotron ColEmbed V2의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 Qwen3-VL-Embedding, Cohere Embed 5 및 Jina Embeddings v5입니다.
답변 확인일: 2026년 10월 22일.