Nemotron 3.5 Embed (1B and 8B)

제 역할을 하는 곳

• 주식 리서치 회사의 검색 엔지니어

  수천 개의 애널리스트 PDF에서 원하는 차트나 표 찾기

  1B로 각 페이지를 이미지와 추출 텍스트로 함께 임베딩하고 2,048차원 벡터(저장 공간을 절반으로 줄이려면 1,024)를 저장한 뒤 일반 텍스트로 질의합니다. NVIDIA 기준 1B의 ViDoRe V3 이미지+텍스트 점수는 58.82입니다.

• 이미 Nemotron 3 Embed로 텍스트 검색을 운영하는 플랫폼 팀

  수백만 개 텍스트 청크를 재색인하지 않고 스캔 계약서와 슬라이드 자료 추가하기

  모델을 Nemotron 3.5 Embed 1B로 바꾸고 새 페이지 이미지만 임베딩합니다. NVIDIA가 텍스트 가중치를 고정했으므로 기존 텍스트 벡터는 그대로 유효합니다.

• 기억 기능이 있는 AI 에이전트를 시제품으로 만드는 2인 스타트업

  GPU에 투자하기 전에 강력한 임베딩 모델 시험하기

  시제품 단계에서는 OpenRouter의 nvidia/nemotron-3.5-embed-1b:free를 호출하고, 트래픽이 정당화되면 NVIDIA GPU 한 장의 vLLM이나 NIM 컨테이너로 옮깁니다.

도입 전 확인할 점

설정

pip install transformers 5.20.0과 sentence-transformers 후 nvidia/Nemotron-3.5-Embed-1B-BF16을 불러와 질의·구절 접두사를 붙여 주는 encode_query와 encode_document를 호출합니다. vLLM 0.32.0으로 vllm serve도 가능합니다.

연동

Transformers, Sentence Transformers, vLLM(검색용 /v2/embed 엔드포인트 포함), NVIDIA NIM. OpenRouter, Baseten, DeepInfra, FriendliAI. Elastic 지원은 곧 제공될 예정이라고 발표되었습니다.

데이터와 개인정보

OpenMDW-1.1은 상업적 사용을 허용합니다. 직접 호스팅하면 문서는 자체 하드웨어에 남습니다. 학습에는 상업적 사용이 허용된 공개 데이터셋과 Nemotron, Qwen, Gemma, gpt-oss 등의 모델이 만든 합성 데이터가 쓰였습니다.

대규모 사용 시 비용

가중치는 무료이고 OpenRouter는 현재 요금을 받지 않습니다. 직접 호스팅 시 NVIDIA는 NVFP4 1B를 GB200에서 초당 128.8개 문서, NIM을 RTX PRO 6000에서 초당 6,031건 질의로 측정했습니다.

제한

입력당 32,768토큰이며 텍스트와 이미지 토큰이 함께 씀. 이미지는 기본적으로 긴 변 1,120픽셀, 최대 1,540. 텍스트 질의만 가능. Linux의 NVIDIA GPU.

Nemotron 3.5 Embed (1B and 8B) 대안

Qwen3-VL-Embedding

Alibaba (Qwen)·임베딩 및 리랭킹·오픈 웨이트

4.3/5

텍스트, 이미지, 스크린샷, 동영상을 하나의 벡터 공간에 담는 Alibaba의 오픈 멀티모달 임베딩 모델입니다. 2B와 8B 크기가 있습니다.

Nemotron ColEmbed V2

NVIDIA·임베딩 및 리랭킹·오픈 웨이트

3.8/5

OCR 없이 페이지 이미지를 검색하는 NVIDIA의 late-interaction 검색 모델입니다. 정확하지만 저장 공간을 많이 쓰고, 모든 크기가 비상업용입니다.

Cohere Embed 5

Cohere·임베딩 및 리랭킹

4.2/5

텍스트, 이미지, PDF를 다루는 Cohere의 멀티모달 임베딩 모델입니다. 입력은 128K 토큰까지이며, Pro와 Fast 두 등급이 하나의 벡터 공간을 공유합니다.

H

Harrier-OSS-v1 (270M, 0.6B, 27B)

Microsoft·임베딩 및 리랭킹·오픈 웨이트

4.5/5

MIT 라이선스의 Microsoft 텍스트 임베딩 모델 세 가지 크기로, 27B는 다국어 MTEB v2에서 74.3으로 1위였고 작은 모델들도 각 체급에서 선두입니다.

Jina Embeddings v5

Jina AI (Elastic)·임베딩 및 리랭킹·오픈 웨이트

4.3/5

Jina AI의 작은 다국어 텍스트 임베딩 모델과, 이미지, 영상, 오디오를 다루는 omni 형제 모델입니다. 모두 하나의 벡터 공간을 공유합니다.

Nemotron 3.5 Embed (1B and 8B): 자주 묻는 질문

Nemotron 3.5 Embed (1B and 8B), 쓸 만한 가치가 있습니까?

Nemotron 3.5 Embed는 텍스트뿐 아니라 페이지 이미지도 읽고 시험해 보는 데 비용이 들지 않으므로, 문서 검색에서 먼저 써 볼 오픈 임베딩 모델입니다. 평점은 5점 만점에 4.4점입니다.

Nemotron 3.5 Embed (1B and 8B)의 가격은 얼마입니까?

OpenMDW-1.1로 무료. 두 크기 모두 OpenRouter에서 무료로 호출할 수 있으며, Baseten, DeepInfra, FriendliAI도 호스팅하고, NVIDIA는 NIM 컨테이너를 제공합니다.

Nemotron 3.5 Embed (1B and 8B)의 단점은 무엇입니까?

모든 벤치마크가 NVIDIA 자체 수치; Linux와 NVIDIA GPU 전용; 텍스트는 34개 언어, 이미지는 18개 언어로 평가; 질의는 텍스트만 가능하며 이미지 질의는 미지원; 버전에 민감: Transformers 5.17.0~5.19.0에서 FlashAttention 2 사용 시 이미지 입력 오류.

Nemotron 3.5 Embed (1B and 8B)에 적합한 사람은 누구입니까?

PDF, 슬라이드, 보고서를 대상으로 검색이나 RAG를 구축하면서 텍스트와 페이지 이미지를 하나의 오픈 모델로 처리하려는 팀.

팀이나 프로덕션 환경에서 Nemotron 3.5 Embed (1B and 8B)의 비용은 얼마입니까?

가중치는 무료이고 OpenRouter는 현재 요금을 받지 않습니다. 직접 호스팅 시 NVIDIA는 NVFP4 1B를 GB200에서 초당 128.8개 문서, NIM을 RTX PRO 6000에서 초당 6,031건 질의로 측정했습니다.

Nemotron 3.5 Embed (1B and 8B)에 회사 데이터를 맡겨도 안전합니까?

OpenMDW-1.1은 상업적 사용을 허용합니다. 직접 호스팅하면 문서는 자체 하드웨어에 남습니다. 학습에는 상업적 사용이 허용된 공개 데이터셋과 Nemotron, Qwen, Gemma, gpt-oss 등의 모델이 만든 합성 데이터가 쓰였습니다.

Nemotron 3.5 Embed (1B and 8B)의 가장 좋은 대안은 무엇입니까?

저희가 리뷰한 것 중 가장 가까운 대안은 Qwen3-VL-Embedding, Nemotron ColEmbed V2, Cohere Embed 5, Harrier-OSS-v1 (270M, 0.6B, 27B) 및 Jina Embeddings v5입니다.

답변 확인일: 2026년 11월 7일.