Was ist Nemotron 3.5 Embed (1B and 8B)?
Nemotron 3.5 Embed ist ein Paar offener Embedding-Modelle von NVIDIA, am 20. Oktober 2026 unter der freizügigen Lizenz OpenMDW-1.1 veröffentlicht: ein 1B-Modell (1,55 Milliarden Parameter) und ein 8B-Modell (8,38 Milliarden). Ein Embedding-Modell verwandelt eine Anfrage oder ein Dokument in eine Zahlenliste, damit ein Suchsystem die nächsten Treffer findet. Diese hier verarbeiten Text, das Bild einer Dokumentseite oder beides zusammen, für die Suche in PDFs mit Tabellen, Diagrammen und Infografiken; Anfragen sind nur Text.
Beide bauen auf Mistrals Ministral-3-Modellen auf, wobei ein Pixtral-Bildencoder zu NVIDIAs rein textbasiertem Nemotron 3 Embed vom Juli 2026 hinzukam. NVIDIA hat den Textteil beim Training eingefroren, sodass die Textvektoren denen von Nemotron 3 Embed entsprechen und ein bestehender Textindex nicht neu aufgebaut werden muss. Das 1B liefert Vektoren mit 2.048 Dimensionen, die sich auf 1.024 oder 512 kürzen lassen, liest bis zu 32.768 Tokens und kommt auch als 4-Bit-Build NVFP4 für Blackwell-GPUs.
Lohnt sich Nemotron 3.5 Embed (1B and 8B)?
Nemotron 3.5 Embed ist jetzt die stärkste offene Option für die Suche in Geschäftsdokumenten, in denen Tabellen und Diagramme so viel Bedeutung tragen wie der Fließtext. Auf dem Leaderboard für visuelle Dokumentensuche ViDoRe v3.1 lag das 8B am 20. Oktober 2026 mit 61,17 nDCG@10 auf Platz eins, das 1B erreichte 58,38 und behielt damit 95,4% der Punktzahl des größeren Modells. In NVIDIAs Tabelle zu Seitenbildern aus ViDoRe V3 erzielt das 1B 58,02 gegenüber 52,89 für Qwen3-VL-Embedding-2B und das 8B 60,39 gegenüber 58,29 für Qwen3-VL-Embedding-8B.
Die Textseite ist geerbt und bereits bewährt. NVIDIA meldet sein rein textbasiertes Nemotron 3 Embed 8B im Juli 2026 mit 78,5 auf Platz eins des mehrsprachigen RTEB-Leaderboards, das 1B mit 72,4 sowie 71,0 bei MMTEB-Retrieval. Weil 3.5 diese Textvektoren unverändert lässt, kann ein Team mit Nemotron 3 Embed Seitenbilder in denselben Index aufnehmen, ohne seinen Text neu einzubetten. Das ist eine seltene Rücksicht in einem Feld, in dem jeder Versionssprung meist einen kompletten Neuaufbau bedeutet.
Die Einstiegskosten liegen nahe null. Beide Größen sind auf OpenRouter vorerst kostenlos, die Lizenz erlaubt kommerzielle Nutzung, und das 1B in NVFP4 läuft auf einer GB200 laut NVIDIAs Test 27,1% schneller als BF16 bei 99,85% seiner Genauigkeit auf ViDoRe V3. NVIDIAs NIM-Container bediente 6.031 Anfragen pro Sekunde auf einer RTX PRO 6000 Blackwell, etwa das 2,9-Fache von vLLM.
Der Haken: Jede Zahl oben stammt von NVIDIA, und die Software ist eng gefasst. Unterstützt werden NVIDIA Ampere, Hopper und Blackwell unter Linux, Bildeingaben brauchen Transformers 5.20.0, weil 5.17.0 bis 5.19.0 mit FlashAttention 2 falsche Ergebnisse liefern können, und Seitenbilder zählen gegen dasselbe Budget von 32.768 Tokens wie Text. Text wurde in 34 Sprachen getestet, Bilder in 18, weniger als die mehr als 100, die manche Konkurrenten angeben.
Unser Fazit: Für ein RAG-System über PDFs, Folien und gescannte Berichte ist Nemotron 3.5 Embed 1B heute ein vernünftiger Standard; das 8B rechtfertigt seine zusätzliche GPU nur, wo ein paar Punkte Recall echtes Geld wert sind.
Wo es sich lohnt
Ein Search Engineer bei einem Aktienresearch-Haus
Das richtige Diagramm oder die richtige Tabelle in Tausenden Analysten-PDFs finden
Jede Seite als Bild plus extrahierten Text mit dem 1B einbetten, Vektoren mit 2.048 Dimensionen speichern (oder 1.024, um den Speicher zu halbieren) und in Klartext suchen. NVIDIAs Wert für Bild plus Text auf ViDoRe V3 liegt beim 1B bei 58,82.
Ein Plattformteam, das Nemotron 3 Embed bereits für Textsuche nutzt
Gescannte Verträge und Foliensätze aufnehmen, ohne Millionen Textabschnitte neu zu indexieren
Das Modell auf Nemotron 3.5 Embed 1B umstellen und nur die neuen Seitenbilder einbetten; NVIDIA hat die Textgewichte eingefroren, bestehende Textvektoren bleiben also gültig.
Ein Startup mit zwei Leuten, das einen KI-Agenten mit Gedächtnis prototypisiert
Ein starkes Embedding-Modell testen, bevor man sich auf GPUs festlegt
Während des Prototyps nvidia/nemotron-3.5-embed-1b:free auf OpenRouter aufrufen und auf vLLM oder den NIM-Container auf einer einzelnen NVIDIA-GPU wechseln, sobald der Traffic es rechtfertigt.
Bevor du dich festlegst
- Einrichtung
- pip install transformers 5.20.0 und sentence-transformers, nvidia/Nemotron-3.5-Embed-1B-BF16 laden und encode_query und encode_document aufrufen, die die Präfixe für Anfrage und Passage setzen; oder vllm serve mit vLLM 0.32.0.
- Integrationen
- Transformers, Sentence Transformers, vLLM (einschließlich eines Retrieval-Endpunkts /v2/embed), NVIDIA NIM; OpenRouter, Baseten, DeepInfra und FriendliAI; Unterstützung durch Elastic ist angekündigt.
- Daten und Datenschutz
- OpenMDW-1.1 erlaubt kommerzielle Nutzung. Selbst gehostet bleiben Dokumente auf deiner Hardware. Das Training nutzte öffentliche, kommerziell zulässige Datensätze und synthetische Daten von Modellen wie Nemotron, Qwen, Gemma und gpt-oss.
- Kosten im großen Maßstab
- Die Gewichte sind kostenlos und OpenRouter berechnet derzeit nichts; selbst gehostet maß NVIDIA das 1B in NVFP4 mit 128,8 Dokumenten pro Sekunde auf einer GB200 und NIM mit 6.031 Anfragen pro Sekunde auf einer RTX PRO 6000.
- Grenzen
- 32.768 Tokens pro Eingabe, geteilt zwischen Text- und Bild-Tokens; Bilder standardmäßig mit 1.120 Pixeln an der längsten Kante, bis 1.540; nur Textanfragen; NVIDIA-GPUs unter Linux.
Was gut ist
- 8B auf Platz eins bei ViDoRe v3.1 mit 61,17 nDCG@10 (20. Oktober 2026)
- Bettet Text, Seitenbilder oder beides in einen Vektorraum ein
- Textvektoren identisch mit Nemotron 3 Embed, Textindizes bleiben also nutzbar
- Freizügige Lizenz OpenMDW-1.1; kostenlos über OpenRouter
- NVFP4-Build 27,1% schneller auf Blackwell
Was nicht
- Alle Benchmarks stammen von NVIDIA
- Nur Linux und NVIDIA-GPUs
- Text in 34 Sprachen getestet, Bilder in 18
- Anfragen müssen Text sein; Bildanfragen werden nicht unterstützt
- Versionsempfindlich: Bildeingabe bricht mit Transformers 5.17.0 bis 5.19.0 und FlashAttention 2
Am besten für
Teams, die Suche oder RAG über PDFs, Folien und Berichte bauen und ein offenes Modell für Text und Seitenbilder wollen.
Alternativen zu Nemotron 3.5 Embed (1B and 8B)
Nemotron 3.5 Embed (1B and 8B): häufige Fragen
- Lohnt sich Nemotron 3.5 Embed (1B and 8B)?
- Nemotron 3.5 Embed ist das offene Embedding-Modell, mit dem man Dokumentensuche beginnen sollte, weil es neben Text auch Seitenbilder liest und das Ausprobieren nichts kostet. Wir bewerten es mit 4.4 von 5.
- Was kostet Nemotron 3.5 Embed (1B and 8B)?
- Kostenlos unter OpenMDW-1.1. Beide Größen sind über OpenRouter kostenlos aufrufbar; Baseten, DeepInfra und FriendliAI hosten sie ebenfalls, und NVIDIA bietet einen NIM-Container an.
- Welche Nachteile hat Nemotron 3.5 Embed (1B and 8B)?
- Alle Benchmarks stammen von NVIDIA; Nur Linux und NVIDIA-GPUs; Text in 34 Sprachen getestet, Bilder in 18; Anfragen müssen Text sein; Bildanfragen werden nicht unterstützt; Versionsempfindlich: Bildeingabe bricht mit Transformers 5.17.0 bis 5.19.0 und FlashAttention 2.
- Für wen eignet sich Nemotron 3.5 Embed (1B and 8B)?
- Teams, die Suche oder RAG über PDFs, Folien und Berichte bauen und ein offenes Modell für Text und Seitenbilder wollen.
- Was kostet Nemotron 3.5 Embed (1B and 8B) für ein Team oder im Produktivbetrieb?
- Die Gewichte sind kostenlos und OpenRouter berechnet derzeit nichts; selbst gehostet maß NVIDIA das 1B in NVFP4 mit 128,8 Dokumenten pro Sekunde auf einer GB200 und NIM mit 6.031 Anfragen pro Sekunde auf einer RTX PRO 6000.
- Ist Nemotron 3.5 Embed (1B and 8B) sicher für Firmendaten?
- OpenMDW-1.1 erlaubt kommerzielle Nutzung. Selbst gehostet bleiben Dokumente auf deiner Hardware. Das Training nutzte öffentliche, kommerziell zulässige Datensätze und synthetische Daten von Modellen wie Nemotron, Qwen, Gemma und gpt-oss.
- Was sind die besten Alternativen zu Nemotron 3.5 Embed (1B and 8B)?
- Die nächsten Alternativen, die wir getestet haben, sind Qwen3-VL-Embedding, Nemotron ColEmbed V2, Cohere Embed 5, Harrier-OSS-v1 (270M, 0.6B, 27B) und Jina Embeddings v5.
Antworten geprüft am 7. Nov. 2026.
Du entwickelst Nemotron 3.5 Embed (1B and 8B)? Zeig diese Bewertung auf deiner Website
