Was ist Infinity-Parser2-Flash?
Infinity-Parser2-Flash ist der kleinere von zwei Dokument-Parsern von INF Technology, einem KI-Unternehmen aus Shanghai, das auf Hugging Face als infly veröffentlicht. Beide erschienen am 11. Mai 2026 unter Apache 2.0, mit einem technischen Bericht auf arXiv. Flash ist ein feinabgestimmtes Qwen3.5-2B mit 2,21 Milliarden Parametern; das Schwestermodell Infinity-Parser2-Pro basiert auf Qwen3.5-35B-A3B, einem Mixture-of-Experts-Modell mit 35 Milliarden Parametern, das pro Token etwa 3 Milliarden aktiviert.
Ein einziges Modell gibt eine Seite als JSON mit Bounding Box, Kategorie und Text für jedes Element oder als Markdown aus und parst außerdem Diagramme zu Tabellen, chemische Strukturen und Fragen zu Dokumenten. INF trainierte es mit überwachter Feinabstimmung und dann mit Reinforcement Learning über all diese Aufgaben gleichzeitig.
INF veröffentlichte auch Infinity-Doc2-5M, den Trainingsdatensatz mit fast 5 Millionen synthetischen und echten Dokumentbeispielen. Flash kam im vergangenen Monat auf Hugging Face auf 15.305 Downloads; Pro, das in INFs Aufbau zwei GPUs braucht, auf 2.334.
Lohnt sich Infinity-Parser2-Flash?
Infinity-Parser2-Flash ist ein fähiger Allrounder, dessen beste Zahlen dem größeren Schwestermodell gehören. INF meldet für Flash 86,0 auf olmOCR-Bench und 72,2 auf ParseBench, gegenüber 87,6 und 74,3 für das 35B-Modell Pro, und beide deutlich über den 78,5 und 66,0, die INF für PaddleOCR-VL-1.5 gemessen hat. Auf OmniDocBench v1.6 erreicht Flash in INFs Tabelle dagegen 91,98, weniger als ebendieses PaddleOCR-VL-1.5 mit 94,87 und weit unter den 96,47, die OpenDataLab für OvisOCR2 führt. Keines der beiden Infinity-Modelle steht auf der Rangliste von OpenDataLab, und INF kennzeichnet mehrere Werte der Konkurrenz als mit eigenen Tools gemessen.
Externe Vergleiche betreffen bisher nur Pro. LightOns Benchmarks vom Oktober setzen Infinity-Parser2-Pro auf olmOCR-Bench mit 87,6 auf Platz eins, passend zu INFs Wert, auf ParseBench aber mit 74,3 auf Platz zwei hinter den 75,1 von LightOnOCR-3-4B und in LightOns Test mit französischen Dokumenten mit 63,2 auf Platz fünf von neun. Das sind Tabellen eines Konkurrenten mit eigener Normalisierung, aber bisher der einzige externe Blick auf die Modellfamilie.
Die Geschwindigkeitsangabe muss man genau lesen. Die Schlagzeile von 1.624 Tokens pro Sekunde, das 3,68-Fache des älteren Infinity-Parser-7B, wurde auf zwei H100 mit acht gleichzeitigen Anfragen gemessen, was 0,95 Sekunden pro Seite ergibt. Auf einer H100 mit einer Anfrage, der Einstellung, die INF für die Konkurrenz nutzte, braucht Flash 6,06 Sekunden pro Seite, gegenüber 2,48 für PaddleOCR-VL-1.5 und 2,35 für DeepSeek-OCR-2. Die JSON-Ausgabe mit etwa 1.500 Tokens pro Seite ist ein Teil des Grundes.
INFs eigener Abschnitt zu den Einschränkungen ist offen: Englisch und Chinesisch sind die Hauptsprachen, andere verschlechtern sich, gedrehte Tabellen und komplexe Diagramme verlieren an Genauigkeit, Fett- und Kursivschrift werden nicht erfasst, und das Modell folgt mehrstufigen Anweisungen schlecht. Pro schlägt Flash auf jedem Benchmark, den INF aufführt, außer beim Layout auf DocLayNet, ist mit 35,1 Milliarden Parametern aber ein anderer Kauf.
Unser Fazit: Flash ist sinnvoll, wo ein einziges Modell Seiten, Diagramme und chemische Strukturen abdecken muss, etwa in pharmazeutischen oder wissenschaftlichen Archiven. Für die Umwandlung gewöhnlicher Geschäftsdokumente in Markdown kostet es mehr GPU-Zeit pro Seite als Parser mit höheren Werten.
Wo es sich lohnt
Ein Cheminformatik-Team bei einem Pharmaunternehmen, das Patente und Laborberichte digitalisiert
Zeichnungen chemischer Strukturen und Datentabellen in maschinenlesbaren Text umwandeln
Lass das Paket infinity_parser2 auf einem vLLM-Backend über Verzeichnisse mit PDFs laufen. INF meldet auf CoSyn für chemisches Parsing 63,34 für Flash und 73,19 für Pro; prüfe eine Stichprobe, denn der Vorsprung von Pro bei dieser Aufgabe ist groß.
Ein Data Engineer bei einem Vermögensverwalter, der Quartalsberichte parst
Diagrammdaten und Tabellen samt Positionen für die spätere Prüfung als JSON extrahieren
Nutze die Aufgabe doc2json, um jedes Element mit seiner Box zu bekommen, und speise Tabellen und Diagrammtabellen dann in eine Datenbank ein. Verarbeite acht Seiten gleichzeitig über zwei GPUs, um nahe an INFs 0,95 Sekunden pro Seite zu kommen.
Bevor du dich festlegst
- Einrichtung
- torch 2.10.0, flash-attn 2.8.3 (10 bis 30 Minuten Kompilieren aus dem Quellcode) und vllm 0.17.1 installieren, dann pip install infinity_parser2 und den Befehl parser auf eine Datei oder ein ganzes Verzeichnis anwenden; die Gewichte werden beim ersten Lauf heruntergeladen.
- Integrationen
- Python-API und CLI mit den Backends vLLM-Engine, vLLM-Server und Transformers; Aufgaben doc2json, doc2md und eigener Prompt; Community-Konvertierungen in GGUF, AWQ und MLX auf Hugging Face.
- Daten und Datenschutz
- Apache 2.0 für die Gewichte; der Datensatz Infinity-Doc2-5M ist öffentlich. Nur selbst gehostet, Dokumente bleiben also auf deiner Hardware.
- Kosten im großen Maßstab
- Der BF16-Checkpoint ist etwa 4,4 GB groß. INFs Werte sind 0,95 Sekunden pro Seite auf zwei H100 bei Parallelität 8, etwa 3.800 Seiten pro Stunde für das Paar, und 6,06 Sekunden pro Seite bei einem einzelnen Stream.
- Grenzen
- Vor allem Englisch und Chinesisch; gedrehte Tabellen, komplexe Diagramme und Textformatierung sind Schwachstellen; laut INF unzuverlässig bei komplexen mehrstufigen Anweisungen.
Was gut ist
- 86,0 auf olmOCR-Bench und 72,2 auf ParseBench (selbst gemeldet)
- Diagramme, chemische Strukturen und Fragen zu Dokumenten in einem 2,2B-Modell
- JSON-Ausgabe mit Boxen und Kategorien pro Element
- Apache 2.0, mit veröffentlichtem Trainingsdatensatz von 5 Millionen Beispielen
Was nicht
- 91,98 auf OmniDocBench v1.6 nach INFs Zählung; nicht auf der öffentlichen Rangliste
- 6,06 Sekunden pro Seite auf einer H100 ohne Batching
- In der Praxis nur Englisch und Chinesisch
- Keine API des Herstellers; schwere Installation mit festgelegten Versionen von torch, vLLM und FlashAttention
Am besten für
Teams für wissenschaftliche und technische Dokumente, die Seiten-Parsing, Diagrammextraktion und Erkennung chemischer Strukturen aus einem kleinen, selbst gehosteten Modell wollen.
Alternativen zu Infinity-Parser2-Flash
Infinity-Parser2-Flash: häufige Fragen
- Lohnt sich Infinity-Parser2-Flash?
- Infinity-Parser2-Flash erledigt mehr Arten von Dokumentarbeit als die meisten 2B-Modelle, liegt beim einfachen Parsen von Seiten aber hinter kleineren Parsern und braucht Batching, um schnell zu sein. Wir bewerten es mit 3.8 von 5.
- Was kostet Infinity-Parser2-Flash?
- Kostenlos unter Apache 2.0. Keine gehostete API des Herstellers; eine kostenlose Demo läuft auf Hugging Face Spaces.
- Welche Nachteile hat Infinity-Parser2-Flash?
- 91,98 auf OmniDocBench v1.6 nach INFs Zählung; nicht auf der öffentlichen Rangliste; 6,06 Sekunden pro Seite auf einer H100 ohne Batching; In der Praxis nur Englisch und Chinesisch; Keine API des Herstellers; schwere Installation mit festgelegten Versionen von torch, vLLM und FlashAttention.
- Für wen eignet sich Infinity-Parser2-Flash?
- Teams für wissenschaftliche und technische Dokumente, die Seiten-Parsing, Diagrammextraktion und Erkennung chemischer Strukturen aus einem kleinen, selbst gehosteten Modell wollen.
- Was kostet Infinity-Parser2-Flash für ein Team oder im Produktivbetrieb?
- Der BF16-Checkpoint ist etwa 4,4 GB groß. INFs Werte sind 0,95 Sekunden pro Seite auf zwei H100 bei Parallelität 8, etwa 3.800 Seiten pro Stunde für das Paar, und 6,06 Sekunden pro Seite bei einem einzelnen Stream.
- Ist Infinity-Parser2-Flash sicher für Firmendaten?
- Apache 2.0 für die Gewichte; der Datensatz Infinity-Doc2-5M ist öffentlich. Nur selbst gehostet, Dokumente bleiben also auf deiner Hardware.
- Was sind die besten Alternativen zu Infinity-Parser2-Flash?
- Die nächsten Alternativen, die wir getestet haben, sind LightOnOCR-3-4B, PaddleOCR-VL-1.6, Chandra OCR 2 und Qianfan-OCR.
Antworten geprüft am 2. Nov. 2026.