Was ist Nemotron OCR v2?
Nemotron OCR v2 ist ein Texterkennungsmodell aus NVIDIAs Reihe NeMo Retriever, im April 2026 auf Hugging Face veröffentlicht. Wie die klassische Pipeline von PaddleOCR ist es kein Vision-Language-Modell: Ein konvolutionaler Detektor RegNetX-8GF findet Textbereiche, ein kleiner Transformer-Erkenner liest sie, und ein relationales Modul gruppiert sie in Lesereihenfolge zu Zeilen und Absätzen. Es liefert Boxen, Text und Konfidenzwerte.
Es gibt zwei Varianten. Das englische Modell hat 53,8 Millionen Parameter und arbeitet auf Wortebene; das mehrsprachige hat 83,9 Millionen und liest ganze Zeilen auf Englisch, vereinfachtem und traditionellem Chinesisch, Japanisch, Koreanisch und Russisch mit einem einzigen Zeichensatz von 14.244 Zeichen. Trainiert wurde mit etwa 680.000 echten Bildern plus über 11 Millionen synthetischen Seiten, veröffentlicht als Datensatz unter CC BY 4.0.
Die Gewichte stehen unter der NVIDIA Open Model License, die kommerzielle Nutzung erlaubt. Es braucht Linux und eine NVIDIA-GPU, und das Paket kompiliert bei der Installation eine CUDA-Erweiterung.
Lohnt sich Nemotron OCR v2?
Nemotron OCR v2 tauscht Genauigkeit gegen Durchsatz, und NVIDIAs eigene Zahlen zeigen beide Seiten. Auf einer A100 läuft das mehrsprachige Modell mit 34,7 Seiten pro Sekunde, gegenüber 1,2 für PaddleOCR v5 server und 1,5 für OpenOCR, was NVIDIA als mehr als 28-mal schneller bezeichnet. Im selben Ausschnitttest auf OmniDocBench liegt seine normalisierte Edit-Distance bei 0,048 auf Englisch, 0,072 auf Chinesisch und 0,142 bei gemischtem Text, wo PaddleOCR v5 auf 0,027, 0,037 und 0,041 kommt; niedriger ist besser, Paddle ist bei echten Dokumenten also klar genauer.
Der Gewinn bei Mehrsprachigkeit ist echt, aber auf NVIDIAs Terrain gemessen. Auf synthetischen SynthDoG-Seiten schlägt es PaddleOCR in jeder Sprache, wobei der Fehler auf Koreanisch gegenüber v1 von 0,923 auf 0,047 fällt. Diese Testseiten stammen aus einem Generator, der NVIDIAs eigener synthetischer Trainingspipeline nahesteht und dessen modifizierter Code noch nicht öffentlich ist. Betrachte den Abstand daher als Obergrenze.
Es leistet pro Seite auch weniger als die VLM-Parser, neben denen es steht. Es gibt keine Tabellenstruktur, kein LaTeX und kein Markdown, nur Boxen, Text und Lesereihenfolge, und gedrehte Seiten schaden: Der Fehler des mehrsprachigen Modells bei um 270 Grad gedrehtem Text liegt bei 0,332. Die englische Variante ist bei Chinesisch mit 0,830 unbrauchbar.
Der Einsatz ist NVIDIAs Stärke. Es kommt als NIM-Container, als gehosteter Test-Endpunkt und als Docker-Compose-Beispiel, und die Lizenz erlaubt kommerzielle Nutzung ohne Umsatzgrenzen. Ein Retrieval-Team, das Millionen überwiegend englischer Seiten indexiert, kann sie in Stunden statt Tagen durch eine GPU schicken. Ein Team, das Tabellen oder die beste Zeichengenauigkeit braucht, sollte es mit PP-OCRv6 oder einem VLM-Parser kombinieren oder durch diese ersetzen.
Wo es sich lohnt
Ein Platform Engineer, der einen RAG-Index über 5 Millionen interne PDFs aufbaut
Text und Lesereihenfolge schnell genug extrahieren, um wöchentlich neu zu indexieren
Betreibe das mehrsprachige Modell im NIM-Container oder in der Python-Pipeline auf A100. Bei NVIDIAs 34,7 Seiten pro Sekunde schafft eine GPU etwa 125.000 Seiten pro Stunde, 5 Millionen Seiten dauern also etwa 40 GPU-Stunden.
Eine Entwicklerin bei einem ostasiatischen E-Commerce-Marktplatz
Produktfotos und Etiketten auf Chinesisch, Japanisch und Koreanisch lesen
Nutze die mehrsprachige Variante, die alle fünf Sprachen mit einem Modell und ohne Spracherkennung liest, und behalte die Konfidenzwerte, um Bilder schlechter Qualität zu markieren; prüfe gedrehte Bilder, die in NVIDIAs Tabelle am schlechtesten abschneiden.
Bevor du dich festlegst
- Einrichtung
- Das Hugging-Face-Repo mit git-lfs klonen, PyTorch passend zu deinem CUDA-Toolkit installieren, dann pip install --no-build-isolation in Python 3.12; oder das Docker-Compose-Beispiel mit dem NVIDIA Container Toolkit ausführen.
- Integrationen
- Python-API nemotron_ocr mit Modi nur für den Detektor und ohne relationales Modul; gehosteter Endpunkt auf build.nvidia.com; NIM-Container auf NGC als Teil von NeMo Retriever.
- Daten und Datenschutz
- NVIDIA Open Model License, kommerzielle Nutzung erlaubt; beim Selbsthosten bleiben Bilder lokal. Für den gehosteten Test gelten die NVIDIA API Trial Terms of Service.
- Kosten im großen Maßstab
- 34,7 Seiten pro Sekunde (mehrsprachig) oder 40,7 (Englisch) auf einer A100 in NVIDIAs Batch-Pipeline; der Modus nur mit Detektor braucht etwa 37% weniger GPU-Speicher. Preise für den Produktivbetrieb mit NIM sind auf der Modellseite nicht veröffentlicht.
- Grenzen
- Nur Linux amd64 mit NVIDIA-GPUs ab Ampere; genau Python 3.12; gehostete Inline-Bilder müssen unter 180.000 base64-Zeichen liegen; Sequenzen des Erkenners sind auf 128 Zeichen begrenzt.
Was gut ist
- 34,7 Seiten pro Sekunde auf einer A100 für das mehrsprachige Modell
- 84M Parameter mit Gruppierung nach Lesereihenfolge und Konfidenzwerten
- Kommerzielle Nutzung erlaubt unter der NVIDIA Open Model License
- Synthetischer Trainingsdatensatz mit über 11 Millionen Seiten unter CC BY 4.0 veröffentlicht
Was nicht
- In NVIDIAs eigener Tabelle höherer Fehler als PaddleOCR v5 auf OmniDocBench
- Keine Tabellen, Formeln oder Markdown-Ausgabe
- Nur Linux und NVIDIA-GPU; kompiliert bei der Installation eine CUDA-Erweiterung
- Gewinne bei Mehrsprachigkeit vor allem auf synthetischen SynthDoG-Seiten gemessen
Am besten für
Retrieval- und RAG-Teams auf NVIDIA-Hardware, die schnell reinen Text aus sehr großen Seitenmengen extrahieren müssen, mit einer für kommerzielle Nutzung freundlichen Lizenz.
Alternativen zu Nemotron OCR v2
Nemotron OCR v2: häufige Fragen
- Lohnt sich Nemotron OCR v2?
- Nemotron OCR v2 ist mit einer Größenordnung Abstand das schnellste offene OCR hier, liest auf NVIDIAs eigenem Dokument-Benchmark aber ungenauer als das PaddleOCR v5, das es abhängt. Wir bewerten es mit 3.8 von 5.
- Was kostet Nemotron OCR v2?
- Kostenlos unter der NVIDIA Open Model License, kommerzielle Nutzung erlaubt. Test-API auf build.nvidia.com; Preise für den NIM-Container auf der Modellseite nicht veröffentlicht.
- Welche Nachteile hat Nemotron OCR v2?
- In NVIDIAs eigener Tabelle höherer Fehler als PaddleOCR v5 auf OmniDocBench; Keine Tabellen, Formeln oder Markdown-Ausgabe; Nur Linux und NVIDIA-GPU; kompiliert bei der Installation eine CUDA-Erweiterung; Gewinne bei Mehrsprachigkeit vor allem auf synthetischen SynthDoG-Seiten gemessen.
- Für wen eignet sich Nemotron OCR v2?
- Retrieval- und RAG-Teams auf NVIDIA-Hardware, die schnell reinen Text aus sehr großen Seitenmengen extrahieren müssen, mit einer für kommerzielle Nutzung freundlichen Lizenz.
- Was kostet Nemotron OCR v2 für ein Team oder im Produktivbetrieb?
- 34,7 Seiten pro Sekunde (mehrsprachig) oder 40,7 (Englisch) auf einer A100 in NVIDIAs Batch-Pipeline; der Modus nur mit Detektor braucht etwa 37% weniger GPU-Speicher. Preise für den Produktivbetrieb mit NIM sind auf der Modellseite nicht veröffentlicht.
- Ist Nemotron OCR v2 sicher für Firmendaten?
- NVIDIA Open Model License, kommerzielle Nutzung erlaubt; beim Selbsthosten bleiben Bilder lokal. Für den gehosteten Test gelten die NVIDIA API Trial Terms of Service.
- Was sind die besten Alternativen zu Nemotron OCR v2?
- Die nächsten Alternativen, die wir getestet haben, sind PP-OCRv6, PaddleOCR-VL-1.6, Surya OCR 2.5 und DeepSeek-OCR 2.
Antworten geprüft am 2. Nov. 2026.
