deepseek-ocr.rs의 개요
deepseek-ocr.rs는 여러 오픈 OCR 비전 언어 모델의 추론 코드를 Hugging Face의 Candle 텐서 라이브러리 위에서 Rust로 다시 구현합니다. README에는 DeepSeek-OCR, PaddleOCR-VL(0.9B), dots.ocr 세 가지가 문서화되어 있습니다. 소스 트리와 이슈 트래커에는 DeepSeek-OCR 2와 GLM-OCR도 등장합니다(GLM-OCR 지원은 2026년 2월에 들어왔습니다). 각 모델은 전체 정밀도 또는 프로젝트 자체의 DSQ 양자화(Q4_K, Q6_K, Q8_0)로 제공됩니다.
프로그램은 두 가지입니다. 배치 작업용 CLI와, OpenAI의 /v1/chat/completions 및 /v1/responses 형식을 따르는 Rocket 웹 서버입니다. 그래서 Open WebUI나 OpenAI SDK를 그대로 연결할 수 있습니다. 백엔드는 CPU, Apple Metal, Intel MKL(프리뷰), NVIDIA CUDA(알파)입니다. 가중치는 첫 실행 때 Hugging Face와 ModelScope 중 응답이 빠른 쪽에서 내려받습니다.
코드는 Apache-2.0이고, 모델 가중치는 원래의 라이선스를 따릅니다. 저장소의 스타는 약 2,200개이며 사실상 한 사람의 작업입니다(커밋 138개 중 128개). 마지막 푸시와 릴리스인 v0.6.0-stage2e는 2026년 2월 21일로, 이 리뷰보다 8개월 앞섭니다.
deepseek-ocr.rs, 쓸 만한 가치가 있습니까?
deepseek-ocr.rs는 비전 모델 OCR에서 Python을 걷어내며, Apple Silicon에서 가장 설득력이 있습니다. 공식 DeepSeek-OCR 릴리스는 Python과 Transformers 스택이 필요하지만, 이 포트는 Metal을 지원하는 네이티브 바이너리입니다. 작성자가 macOS에서 단일 요청으로 잰 벤치마크에서 Rust 디코드 루프는 약 30초, 참조 Python 파이프라인은 57초가 걸려 1.88x 빨랐습니다. 이미지 임베딩은 Rust 쪽이 더 느렸으므로(6.4초 대 4.0초), 이점은 모든 단계가 아니라 생성 단계에 있습니다.
실제 결정은 모델 선택이며, README는 메모리에 대해 솔직합니다. DeepSeek-OCR은 캐시와 활성값을 포함해 RAM이나 VRAM이 약 13GB 필요합니다. PaddleOCR-VL은 약 9GB 아래에 머물러 16GB 노트북과 CPU 머신에 맞습니다. dots.ocr는 고해상도 페이지에서 30~50GB가 필요할 수 있습니다. DSQ 양자화 변형은 가중치 메모리를 줄이지만, dots.ocr의 경우 무거운 비전 토큰 비용은 그대로입니다.
약점은 유지보수입니다. 거의 모든 코드를 개발자 한 명이 썼고, CUDA는 여전히 알파로 표시되어 있습니다. 2월에 열린 이슈는 DeepSeek-OCR의 CUDA 메모리 사용량이 11월부터 최신 커밋 사이에 약 11GB에서 19GB로 늘었다고 보고합니다. 2026년 2월 21일 이후 푸시가 없으므로 수정이 나오지 않을 수도 있습니다. 12개월 기준으로 보면 버려진 프로젝트는 아니지만, 그 위험을 감안할 만큼 가깝습니다.
서버는 네트워크에 노출하기 전에 손을 봐야 합니다. 생성되는 설정은 인증 없이 0.0.0.0의 포트 8000에 바인딩하고, 서버는 요청에 따라 원격 http(s) 이미지 URL을 가져옵니다. 공유 호스트에서는 악용을 부르는 구조입니다. 워크스테이션에서 프록시 뒤에 두면 깔끔한 로컬 엔드포인트이고, 클라우드 VM에서는 프록시가 꼭 필요합니다.
제 역할을 하는 곳
16GB M 시리즈 MacBook을 쓰는 1인 개발자
스크립트로 스크린샷과 영수증을 오프라인에서 Markdown 으로 변환하기
릴리스 페이지에서 macOS 번들을 내려받아 paddleocr-vl을 선택하고 --device metal로 CLI를 호출합니다. 무료이며, PaddleOCR-VL은 메모리를 약 9GB 아래로 유지해 에디터와 브라우저를 띄울 여유가 남습니다.
이미 사내에서 Open WebUI를 운영하는 소규모 팀
직원이 스캔한 페이지를 채팅에 올리면 텍스트를 돌려받게 하기
워크스테이션 한 대에서 팀의 리버스 프록시 뒤에 deepseek-ocr-server를 띄우고 OpenAI 연결로 추가합니다. 모델 목록에 deepseek-ocr과 paddleocr-vl이 나타납니다. 위험 요소는 기본값인 개방 바인딩과, 머신에 NVIDIA 카드가 있을 경우 알파 단계의 CUDA 경로입니다.
도입 전 확인할 점
- 설정
- 릴리스 페이지에 macOS, Alpine Linux, Windows(CUDA 12.4 및 13.0)용 사전 빌드 번들이 있고, Rust 1.78+와 --release로 소스에서 빌드할 수도 있습니다. 첫 실행 때 DeepSeek-OCR 가중치 약 6.3GB를 내려받습니다.
- 연동
- OpenAI 호환 /v1/chat/completions, /v1/responses, /v1/models. Open WebUI와 OpenAI SDK에서 작동합니다. 공개된 crate나 Python 바인딩은 없습니다(바인딩 요청 이슈가 열려 있음).
- 데이터와 개인정보
- 로컬에서 실행됩니다. 네트워크 사용은 Hugging Face나 ModelScope에서의 가중치 다운로드와, 클라이언트가 보내는 원격 이미지 URL로 한정됩니다. 코드는 Apache-2.0, 가중치는 원래 모델 라이선스를 따릅니다.
- 대규모 사용 시 비용
- 소프트웨어는 무료이고 비용은 하드웨어입니다. README에 따르면 DeepSeek-OCR은 RAM이나 VRAM 약 13GB, PaddleOCR-VL은 약 9GB 미만, dots.ocr는 큰 페이지에서 30~50GB가 필요합니다.
- 제한
- CUDA는 알파. 열린 이슈 약 16개로, 출력 반복과 프롬프트 무시 보고가 포함됩니다. 채팅 기록은 마지막 사용자 턴으로 축약됩니다. 큰 이미지는 소스에서 한도를 올리지 않으면 Rocket의 본문 크기 제한에 걸립니다.
좋은 점
- Python 불필요: CLI와 OpenAI 호환 서버를 갖춘 단일 바이너리
- Metal 백엔드, 작성자 측정 기준 Python보다 디코드가 1.88x 빠름
- 10GB 미만의 PaddleOCR-VL을 포함한 여러 OCR 모델
- Q4_K부터 Q8_0까지의 양자화 변형
아쉬운 점
- 유지보수자 한 명, 2026년 2월 21일 이후 푸시 없음
- CUDA 지원은 알파이며 메모리 회귀 이슈가 열려 있음
- 서버가 인증 없이 0.0.0.0에 바인딩하고 원격 URL을 가져옴
- dots.ocr는 30~50GB 메모리가 필요할 수 있음
추천 대상
Python 스택 없이 OpenAI 방식 API 뒤에 로컬 OCR 모델을 두고 싶은 Apple Silicon 또는 CPU 전용 머신의 개발자.
deepseek-ocr.rs 대안
deepseek-ocr.rs: 자주 묻는 질문
- deepseek-ocr.rs, 쓸 만한 가치가 있습니까?
- deepseek-ocr.rs는 Python 없이 Mac에서 최신 OCR 모델을 OpenAI 엔드포인트 뒤에 둘 수 있게 해 주지만, 한 사람이 만든 프로젝트이고 2월 이후 조용합니다. 평점은 5점 만점에 3.6점입니다.
- deepseek-ocr.rs의 가격은 얼마입니까?
- Apache-2.0으로 무료입니다. 모델 가중치는 원래의 라이선스를 따릅니다.
- deepseek-ocr.rs의 단점은 무엇입니까?
- 유지보수자 한 명, 2026년 2월 21일 이후 푸시 없음; CUDA 지원은 알파이며 메모 리 회귀 이슈가 열려 있음; 서버가 인증 없이 0.0.0.0에 바인딩하고 원격 URL을 가져옴; dots.ocr는 30~50GB 메모리가 필요할 수 있음.
- deepseek-ocr.rs에 적합한 사람은 누구입니까?
- Python 스택 없이 OpenAI 방식 API 뒤에 로컬 OCR 모델을 두고 싶은 Apple Silicon 또는 CPU 전용 머신의 개발자.
- 팀이나 프로덕션 환경에서 deepseek-ocr.rs의 비용은 얼마입니까?
- 소프트웨어는 무료이고 비용은 하드웨어입니다. README에 따르면 DeepSeek-OCR은 RAM이나 VRAM 약 13GB, PaddleOCR-VL은 약 9GB 미만, dots.ocr는 큰 페이지에서 30~50GB가 필요합니다.
- deepseek-ocr.rs에 회사 데이터를 맡겨도 안전합니까?
- 로컬에서 실행됩니다. 네트워크 사용은 Hugging Face나 ModelScope에서의 가중치 다운로드와, 클라이언트가 보내는 원격 이미지 URL로 한정됩니다. 코드는 Apache-2.0, 가중치는 원래 모델 라이선스를 따릅니다.
- deepseek-ocr.rs의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 franken_ocr, Xberg (formerly Kreuzberg), Ocrs 및 Ollama입니다.
답변 확인일: 2026년 10월 26일.