Zum Inhalt springen
ReviewRamble

Der wöchentliche Brief

KI im Test, in deinem Postfach.

  • Neue Tests von Tools, Modellen, MCP-Servern und Repos, mit dem Urteil vorneweg
  • Neu geprüfte Preise und Bewertungen, wenn sich etwas ändert
  • Neue Analysen, sobald sie erscheinen

Modelle, Agenten, MCP-Server und die Tools, die deine Zeit wirklich wert sind.

Eine E-Mail pro Woche. Abmelden kannst du dich über den Link in jedem Brief. Wie wir deine E-Mail-Adresse nutzen

Nemotron OCR v2

NVIDIAs OCR aus Detektor und Erkenner mit 84M Parametern für die RAG-Aufnahme: etwa 35 Seiten pro Sekunde auf einer A100, lizenziert für kommerzielle Nutzung.

Getestet von Andrew Miller · Aktualisiert

Nemotron OCR v2 besuchen Open Source

Unsere Bewertung

3.8/5

Nemotron OCR v2 ist mit einer Größenordnung Abstand das schnellste offene OCR hier, liest auf NVIDIAs eigenem Dokument-Benchmark aber ungenauer als das PaddleOCR v5, das es abhängt.

Was ist Nemotron OCR v2?

Nemotron OCR v2 ist ein Texterkennungsmodell aus NVIDIAs Reihe NeMo Retriever, im April 2026 auf Hugging Face veröffentlicht. Wie die klassische Pipeline von PaddleOCR ist es kein Vision-Language-Modell: Ein konvolutionaler Detektor RegNetX-8GF findet Textbereiche, ein kleiner Transformer-Erkenner liest sie, und ein relationales Modul gruppiert sie in Lesereihenfolge zu Zeilen und Absätzen. Es liefert Boxen, Text und Konfidenzwerte.

Es gibt zwei Varianten. Das englische Modell hat 53,8 Millionen Parameter und arbeitet auf Wortebene; das mehrsprachige hat 83,9 Millionen und liest ganze Zeilen auf Englisch, vereinfachtem und traditionellem Chinesisch, Japanisch, Koreanisch und Russisch mit einem einzigen Zeichensatz von 14.244 Zeichen. Trainiert wurde mit etwa 680.000 echten Bildern plus über 11 Millionen synthetischen Seiten, veröffentlicht als Datensatz unter CC BY 4.0.

Die Gewichte stehen unter der NVIDIA Open Model License, die kommerzielle Nutzung erlaubt. Es braucht Linux und eine NVIDIA-GPU, und das Paket kompiliert bei der Installation eine CUDA-Erweiterung.

Lohnt sich Nemotron OCR v2?

Nemotron OCR v2 tauscht Genauigkeit gegen Durchsatz, und NVIDIAs eigene Zahlen zeigen beide Seiten. Auf einer A100 läuft das mehrsprachige Modell mit 34,7 Seiten pro Sekunde, gegenüber 1,2 für PaddleOCR v5 server und 1,5 für OpenOCR, was NVIDIA als mehr als 28-mal schneller bezeichnet. Im selben Ausschnitttest auf OmniDocBench liegt seine normalisierte Edit-Distance bei 0,048 auf Englisch, 0,072 auf Chinesisch und 0,142 bei gemischtem Text, wo PaddleOCR v5 auf 0,027, 0,037 und 0,041 kommt; niedriger ist besser, Paddle ist bei echten Dokumenten also klar genauer.

Der Gewinn bei Mehrsprachigkeit ist echt, aber auf NVIDIAs Terrain gemessen. Auf synthetischen SynthDoG-Seiten schlägt es PaddleOCR in jeder Sprache, wobei der Fehler auf Koreanisch gegenüber v1 von 0,923 auf 0,047 fällt. Diese Testseiten stammen aus einem Generator, der NVIDIAs eigener synthetischer Trainingspipeline nahesteht und dessen modifizierter Code noch nicht öffentlich ist. Betrachte den Abstand daher als Obergrenze.

Es leistet pro Seite auch weniger als die VLM-Parser, neben denen es steht. Es gibt keine Tabellenstruktur, kein LaTeX und kein Markdown, nur Boxen, Text und Lesereihenfolge, und gedrehte Seiten schaden: Der Fehler des mehrsprachigen Modells bei um 270 Grad gedrehtem Text liegt bei 0,332. Die englische Variante ist bei Chinesisch mit 0,830 unbrauchbar.

Der Einsatz ist NVIDIAs Stärke. Es kommt als NIM-Container, als gehosteter Test-Endpunkt und als Docker-Compose-Beispiel, und die Lizenz erlaubt kommerzielle Nutzung ohne Umsatzgrenzen. Ein Retrieval-Team, das Millionen überwiegend englischer Seiten indexiert, kann sie in Stunden statt Tagen durch eine GPU schicken. Ein Team, das Tabellen oder die beste Zeichengenauigkeit braucht, sollte es mit PP-OCRv6 oder einem VLM-Parser kombinieren oder durch diese ersetzen.

Wo es sich lohnt

  • Ein Platform Engineer, der einen RAG-Index über 5 Millionen interne PDFs aufbaut

    Text und Lesereihenfolge schnell genug extrahieren, um wöchentlich neu zu indexieren

    Betreibe das mehrsprachige Modell im NIM-Container oder in der Python-Pipeline auf A100. Bei NVIDIAs 34,7 Seiten pro Sekunde schafft eine GPU etwa 125.000 Seiten pro Stunde, 5 Millionen Seiten dauern also etwa 40 GPU-Stunden.

  • Eine Entwicklerin bei einem ostasiatischen E-Commerce-Marktplatz

    Produktfotos und Etiketten auf Chinesisch, Japanisch und Koreanisch lesen

    Nutze die mehrsprachige Variante, die alle fünf Sprachen mit einem Modell und ohne Spracherkennung liest, und behalte die Konfidenzwerte, um Bilder schlechter Qualität zu markieren; prüfe gedrehte Bilder, die in NVIDIAs Tabelle am schlechtesten abschneiden.

Bevor du dich festlegst

Einrichtung
Das Hugging-Face-Repo mit git-lfs klonen, PyTorch passend zu deinem CUDA-Toolkit installieren, dann pip install --no-build-isolation in Python 3.12; oder das Docker-Compose-Beispiel mit dem NVIDIA Container Toolkit ausführen.
Integrationen
Python-API nemotron_ocr mit Modi nur für den Detektor und ohne relationales Modul; gehosteter Endpunkt auf build.nvidia.com; NIM-Container auf NGC als Teil von NeMo Retriever.
Daten und Datenschutz
NVIDIA Open Model License, kommerzielle Nutzung erlaubt; beim Selbsthosten bleiben Bilder lokal. Für den gehosteten Test gelten die NVIDIA API Trial Terms of Service.
Kosten im großen Maßstab
34,7 Seiten pro Sekunde (mehrsprachig) oder 40,7 (Englisch) auf einer A100 in NVIDIAs Batch-Pipeline; der Modus nur mit Detektor braucht etwa 37% weniger GPU-Speicher. Preise für den Produktivbetrieb mit NIM sind auf der Modellseite nicht veröffentlicht.
Grenzen
Nur Linux amd64 mit NVIDIA-GPUs ab Ampere; genau Python 3.12; gehostete Inline-Bilder müssen unter 180.000 base64-Zeichen liegen; Sequenzen des Erkenners sind auf 128 Zeichen begrenzt.

Was gut ist

  • 34,7 Seiten pro Sekunde auf einer A100 für das mehrsprachige Modell
  • 84M Parameter mit Gruppierung nach Lesereihenfolge und Konfidenzwerten
  • Kommerzielle Nutzung erlaubt unter der NVIDIA Open Model License
  • Synthetischer Trainingsdatensatz mit über 11 Millionen Seiten unter CC BY 4.0 veröffentlicht

Was nicht

  • In NVIDIAs eigener Tabelle höherer Fehler als PaddleOCR v5 auf OmniDocBench
  • Keine Tabellen, Formeln oder Markdown-Ausgabe
  • Nur Linux und NVIDIA-GPU; kompiliert bei der Installation eine CUDA-Erweiterung
  • Gewinne bei Mehrsprachigkeit vor allem auf synthetischen SynthDoG-Seiten gemessen

Am besten für

Retrieval- und RAG-Teams auf NVIDIA-Hardware, die schnell reinen Text aus sehr großen Seitenmengen extrahieren müssen, mit einer für kommerzielle Nutzung freundlichen Lizenz.

Alternativen zu Nemotron OCR v2

Nemotron OCR v2: häufige Fragen

Lohnt sich Nemotron OCR v2?
Nemotron OCR v2 ist mit einer Größenordnung Abstand das schnellste offene OCR hier, liest auf NVIDIAs eigenem Dokument-Benchmark aber ungenauer als das PaddleOCR v5, das es abhängt. Wir bewerten es mit 3.8 von 5.
Was kostet Nemotron OCR v2?
Kostenlos unter der NVIDIA Open Model License, kommerzielle Nutzung erlaubt. Test-API auf build.nvidia.com; Preise für den NIM-Container auf der Modellseite nicht veröffentlicht.
Welche Nachteile hat Nemotron OCR v2?
In NVIDIAs eigener Tabelle höherer Fehler als PaddleOCR v5 auf OmniDocBench; Keine Tabellen, Formeln oder Markdown-Ausgabe; Nur Linux und NVIDIA-GPU; kompiliert bei der Installation eine CUDA-Erweiterung; Gewinne bei Mehrsprachigkeit vor allem auf synthetischen SynthDoG-Seiten gemessen.
Für wen eignet sich Nemotron OCR v2?
Retrieval- und RAG-Teams auf NVIDIA-Hardware, die schnell reinen Text aus sehr großen Seitenmengen extrahieren müssen, mit einer für kommerzielle Nutzung freundlichen Lizenz.
Was kostet Nemotron OCR v2 für ein Team oder im Produktivbetrieb?
34,7 Seiten pro Sekunde (mehrsprachig) oder 40,7 (Englisch) auf einer A100 in NVIDIAs Batch-Pipeline; der Modus nur mit Detektor braucht etwa 37% weniger GPU-Speicher. Preise für den Produktivbetrieb mit NIM sind auf der Modellseite nicht veröffentlicht.
Ist Nemotron OCR v2 sicher für Firmendaten?
NVIDIA Open Model License, kommerzielle Nutzung erlaubt; beim Selbsthosten bleiben Bilder lokal. Für den gehosteten Test gelten die NVIDIA API Trial Terms of Service.
Was sind die besten Alternativen zu Nemotron OCR v2?
Die nächsten Alternativen, die wir getestet haben, sind PP-OCRv6, PaddleOCR-VL-1.6, Surya OCR 2.5 und DeepSeek-OCR 2.

Antworten geprüft am 2. Nov. 2026.