Was ist deepseek-ocr.rs?
deepseek-ocr.rs implementiert den Inferenzcode mehrerer offener OCR-Vision-Language-Modelle in Rust neu, auf Basis der Tensor-Bibliothek Candle von Hugging Face. Die README dokumentiert drei: DeepSeek-OCR, PaddleOCR-VL (0.9B) und dots.ocr; Quellcode und Issue-Tracker decken außerdem DeepSeek-OCR 2 und GLM-OCR ab (die Unterstützung für GLM-OCR kam im Februar 2026). Jedes gibt es in voller Genauigkeit oder in der projekteigenen DSQ-Quantisierung mit Q4_K, Q6_K oder Q8_0.
Es liefert zwei Programme: eine CLI für Batch-Jobs und einen Rocket-Webserver, der die OpenAI-Formate /v1/chat/completions und /v1/responses spricht, sodass Open WebUI oder jedes OpenAI-SDK darauf zeigen kann. Backends sind CPU, Apple Metal, Intel MKL (Vorschau) und NVIDIA CUDA (Alpha). Die Gewichte werden beim ersten Lauf von Hugging Face oder ModelScope geladen, je nachdem, wer schneller antwortet.
Der Code steht unter Apache-2.0; die Modellgewichte tragen ihre Upstream-Lizenzen. Das Repository hat rund 2.200 Sterne und ist im Wesentlichen das Werk einer Person (128 von 138 Commits). Der letzte Push und das letzte Release, v0.6.0-stage2e, waren am 21. Februar 2026, acht Monate vor diesem Test.
Lohnt sich deepseek-ocr.rs?
deepseek-ocr.rs nimmt Python aus der OCR mit Vision-Modellen heraus, und am überzeugendsten ist es auf Apple Silicon. Das offizielle Release von DeepSeek-OCR braucht einen Stack aus Python und Transformers; diese Portierung ist eine native Binärdatei mit Metal-Unterstützung, und der Benchmark des Autors mit einer einzelnen Anfrage unter macOS zeigt, dass die Decode-Schleife in Rust nach etwa 30 Sekunden fertig ist, gegenüber 57 für die Python-Referenzpipeline, ein Gewinn um das 1,88-fache. Das Bild-Embedding war in Rust langsamer (6,4 Sekunden gegenüber 4,0), der Vorteil liegt also in der Generierung, nicht in jeder Stufe.
Die eigentliche Entscheidung ist die Wahl des Modells, und die README ist offen, was den Speicher angeht. DeepSeek-OCR braucht mit Cache und Aktivierungen etwa 13 GB RAM oder VRAM; PaddleOCR-VL bleibt unter etwa 9 GB und passt zu Laptops mit 16 GB und reinen CPU-Rechnern; dots.ocr kann bei hochaufgelösten Seiten 30 bis 50 GB brauchen. Die quantisierten DSQ-Varianten senken den Speicher für die Gewichte, lassen bei dots.ocr aber die hohen Kosten der Vision-Tokens unberührt.
Die Pflege ist der Schwachpunkt. Ein Entwickler hat fast alles geschrieben, CUDA ist weiterhin als Alpha gekennzeichnet, und ein offenes Issue vom Februar meldet, dass der CUDA-Speicherbedarf bei DeepSeek-OCR zwischen November und dem letzten Commit von etwa 11 GB auf 19 GB gestiegen ist. Seit dem 21. Februar 2026 wurde nichts mehr gepusht, eine Korrektur kommt also womöglich nicht; nach einem 12-Monats-Maßstab ist das Projekt nicht aufgegeben, aber nah genug daran, um es einzupreisen.
Der Server braucht Sorgfalt, bevor er in die Nähe eines Netzwerks kommt. Die erzeugte Konfiguration bindet ohne Authentifizierung an 0.0.0.0 auf Port 8000, und der Server ruft auf Anfrage entfernte http(s)-Bild-URLs ab, was auf einem geteilten Host zum Missbrauch einlädt. Hinter einem Proxy auf einer Workstation ist er ein ordentlicher lokaler Endpunkt; auf einer Cloud-VM braucht er einen solchen Proxy.
Wo es sich lohnt
Ein Solo-Entwickler auf einem MacBook der M-Serie mit 16 GB
Screenshots und Belege per Skript offline in Markdown verwandeln
Lade das macOS-Paket von der Release-Seite, wähle paddleocr-vl und rufe die CLI mit --device metal auf. Kostenlos; PaddleOCR-VL hält den Speicher unter etwa 9 GB und lässt Platz für Editor und Browser.
Ein kleines Team, das Open WebUI bereits intern betreibt
Mitarbeitende eine gescannte Seite in den Chat ziehen lassen und den Text zurückbekommen
Betreibe deepseek-ocr-server auf einer Workstation hinter dem Reverse Proxy des Teams und füge ihn als OpenAI-Verbindung hinzu; die Modellliste zeigt deepseek-ocr und paddleocr-vl. Das Risiko sind die standardmäßig offene Bindung und der CUDA-Pfad im Alpha-Stadium, falls der Rechner eine NVIDIA-Karte hat.
Bevor du dich festlegst
- Einrichtung
- Vorgebaute Pakete für macOS, Alpine Linux und Windows (CUDA 12.4 und 13.0) auf der Release-Seite oder ein Build aus dem Quellcode mit Rust 1.78+ und --release; der erste Lauf lädt rund 6,3 GB Gewichte für DeepSeek-OCR.
- Integrationen
- OpenAI-kompatible Endpunkte /v1/chat/completions, /v1/responses und /v1/models; funktioniert mit Open WebUI und OpenAI-SDKs. Kein veröffentlichtes Crate und keine Python-Bindung (eine Anfrage danach ist offen).
- Daten und Datenschutz
- Läuft lokal; die Netznutzung beschränkt sich auf Downloads der Gewichte von Hugging Face oder ModelScope und auf entfernte Bild-URLs, die ein Client sendet. Code unter Apache-2.0, Upstream-Modelllizenzen für die Gewichte.
- Kosten im großen Maßstab
- Kostenlose Software; die Kosten sind Hardware. Laut README etwa 13 GB RAM oder VRAM für DeepSeek-OCR, unter etwa 9 GB für PaddleOCR-VL und 30 bis 50 GB für dots.ocr bei großen Seiten.
- Grenzen
- CUDA im Alpha-Stadium; rund 16 offene Issues, darunter Meldungen zu wiederholter Ausgabe und ignorierten Prompts; der Chatverlauf wird auf den letzten Nutzerbeitrag reduziert; große Bilder stoßen an das Body-Limit von Rocket, sofern du es nicht im Quellcode anhebst.
Was gut ist
- Kein Python: eine Binärdatei mit CLI und OpenAI-kompatiblem Server
- Metal-Backend; der Autor meldet 1,88-fach schnelleres Decode als Python
- Mehrere OCR-Modelle, darunter PaddleOCR-VL unter 10 GB
- Quantisierte Varianten von Q4_K bis Q8_0
Was nicht
- Ein Maintainer; kein Push seit dem 21. Februar 2026
- CUDA-Unterstützung ist Alpha, mit offener Speicher-Regression
- Server bindet an 0.0.0.0 ohne Authentifizierung und ruft entfernte URLs ab
- dots.ocr kann 30 bis 50 GB Speicher brauchen
Am besten für
Entwickler auf Apple Silicon oder reinen CPU-Rechnern, die ein lokales OCR-Modell hinter einer API im OpenAI-Stil ohne Python-Stack wollen.
Alternativen zu deepseek-ocr.rs
deepseek-ocr.rs: häufige Fragen
- Lohnt sich deepseek-ocr.rs?
- deepseek-ocr.rs stellt ein modernes OCR-Modell auf einem Mac ohne Python hinter einen OpenAI-Endpunkt, ist aber ein Ein-Personen-Projekt, das seit Februar still ist. Wir bewerten es mit 3.6 von 5.
- Was kostet deepseek-ocr.rs?
- Kostenlos unter Apache-2.0; Modellgewichte folgen ihren Upstream-Lizenzen.
- Welche Nachteile hat deepseek-ocr.rs?
- Ein Maintainer; kein Push seit dem 21. Februar 2026; CUDA-Unterstützung ist Alpha, mit offener Speicher-Regression; Server bindet an 0.0.0.0 ohne Authentifizierung und ruft entfernte URLs ab; dots.ocr kann 30 bis 50 GB Speicher brauchen.
- Für wen eignet sich deepseek-ocr.rs?
- Entwickler auf Apple Silicon oder reinen CPU-Rechnern, die ein lokales OCR-Modell hinter einer API im OpenAI-Stil ohne Python-Stack wollen.
- Was kostet deepseek-ocr.rs für ein Team oder im Produktivbetrieb?
- Kostenlose Software; die Kosten sind Hardware. Laut README etwa 13 GB RAM oder VRAM für DeepSeek-OCR, unter etwa 9 GB für PaddleOCR-VL und 30 bis 50 GB für dots.ocr bei großen Seiten.
- Ist deepseek-ocr.rs sicher für Firmendaten?
- Läuft lokal; die Netznutzung beschränkt sich auf Downloads der Gewichte von Hugging Face oder ModelScope und auf entfernte Bild-URLs, die ein Client sendet. Code unter Apache-2.0, Upstream-Modelllizenzen für die Gewichte.
- Was sind die besten Alternativen zu deepseek-ocr.rs?
- Die nächsten Alternativen, die wir getestet haben, sind franken_ocr, Xberg (formerly Kreuzberg), Ocrs und Ollama.
Antworten geprüft am 26. Okt. 2026.