Moondream Parakeet Redux의 개요
Parakeet Redux는 NVIDIA의 parakeet-tdt-0.6b-v3 음성 인식 모델을 압축한 버전으로, 2026년 9월 22일 Moondream(M87 Labs)이 공개했습니다. 구조와 토크나이저는 그대로이지만 인코더 가중치가 모두 -1, 0, +1의 삼진값이어서 가중치 크기가 1.2 GB에서 178 MB로 줄었습니다. 같은 25개 유럽 언어를 전사하고, 언어를 자동 감지하고, 문장 부호와 대소문자를 넣고, 구간 또는 단어 타임스탬프를 돌려줍니다.
Moondream은 작은 음성 활동 감지 헤드도 가중치에 함께 학습시켰습니다. 그래서 별도의 VAD 모델 없이 긴 녹음을 쉼 구간에서 최대 30초 길이로 자릅니다. Moondream의 추론 엔진인 Photon에서 돌아가며, Photon은 x86(AVX-512 VNNI), ARM(NEON), Apple GPU(Metal)에서 압축된 가중치로 직접 연산합니다. pip install moondream으로 설치합니다. 스트리밍과 실시간 마이크 입력을 지원합니다.
가중치는 NVIDIA 원본처럼 CC BY 4.0입니다. 자매 모델인 Parakeet Ultra는 GPU용으로 전체 정밀도를 유지하고 정확도를 위해 추가 학습됐습니다.
Moondream Parakeet Redux, 쓸 만한 가치가 있습니까?
Moondream의 측정에 따르면 Parakeet Redux는 GPU 없이 강력한 오픈 전사 모델을 돌리는 가장 빠른 방법입니다. AMD EPYC 9575F의 코어 8개에서 LibriSpeech를 실시간의 113배 속도로 전사합니다. 8비트 parakeet.cpp는 45배, sherpa-onnx는 42배입니다. MacBook Air M2에서는 CPU로 38배, GPU로 43배에 이릅니다. 그 서버에서 1시간 분량의 오디오는 약 30초가 걸립니다. 모든 속도 수치는 Moondream 자체 측정이며, 모든 런타임을 같은 기기와 같은 오디오로 돌렸습니다.
정확도는 압축 정도에 비해 잘 유지됩니다. Open ASR Leaderboard의 영어 세트 7개에서 평균 단어 오류율은 6.26%에서 6.55%로 오릅니다. 25개 언어 전체 FLEURS에서는 11.62%에서 10.56%로 내려가며, 라트비아어(21.38에서 12.80)와 에스토니아어에서 크게 개선되고 프랑스어(4.81에서 7.71), 독일어, 러시아어에서는 나빠집니다. TED 강연 11편 전체에서는 원본의 2.71%보다 낮은 2.51%를 기록했고, Moondream은 이를 내장된 쉼 감지 덕분으로 봅니다.
주의할 점: 소음입니다. MUSAN 배경 소음을 섞으면 평균 오류율이 6.72%에서 9.04%로 오르고, 5 dB의 FLEURS 독일어는 8.07%에서 12.36%가 됩니다. Moondream은 삼진 인코더가 비슷하게 들리는 단어로 잘못 바꾸는 일이 더 잦지만, 내용을 빠뜨리거나 지어내는 일이 더 잦지는 않다고 설명합니다. 콜센터 오디오나 현장 녹음에는 GPU에서 돌리는 Parakeet Ultra나 NVIDIA 원본이 더 안전합니다.
또 하나의 한계는 런타임입니다. 압축된 가중치를 실행하는 방법으로 문서화된 것은 Photon뿐이어서, Redux를 NeMo, ONNX, parakeet.cpp 파이프라인에 그대로 넣을 수 없습니다. CC BY 4.0 라이선스는 깔끔합니다. 한 업체의 엔진에 의존해야 한다는 것이 속도의 대가입니다.
제 역할을 하는 곳
Mac용 로컬 회의록 앱 개발자
오디오를 업로드하지 않고 사용자 노트북에서 통화 전사
Photon은 M2 MacBook Air의 Apple GPU에서 실시간의 43배로 돌아가므로 1시간짜리 통화에 2분이 채 걸리지 않고, 178 MB 다운로드는 앱에 포함할 만큼 작습니다. 단어 타임스탬프로 메모를 녹음과 맞춥니다.
팟캐스트 호스팅 회사의 플랫폼 엔지니어
LLM 작업에 필요한 GPU에서 전사 작업을 덜어내기
EPYC 코어 8개에서 실시간의 113배이므로 CPU 서버가 전사 대기열을 맡을 수 있습니다. Moondream은 짧은 클립에서 Ryzen 9 9950X3D CPU가 RTX PRO 6000 GPU의 8비트 parakeet.cpp를 앞섰다는 사용자 사례를 듭니다. 소음이 많은 업로드는 여전히 표본 점검이 필요합니다.
발트 지역 공공 부문 번역 팀
라트비아어, 리투아니아어, 에스토니아어 녹음의 전사 초안 작성
FLEURS에서 Redux는 원본 대비 라트비아어 단어 오류율을 21.38%에서 12.80%로, 리투아니아어는 21.09%에서 17.27%로 낮춥니다. 속도를 따지기 전에도 이 언어들에는 더 나은 Parakeet입니다.
도입 전 확인할 점
- 설정
- pip install moondream(모델 카드 기준 2.4.0 이상, 출시 글은 2.4.1 사용)을 실행한 뒤 md.photon("moondream/parakeet-redux", device="cpu")를 열고 WAV, MP3, FLAC, M4A 파일에 transcribe를 호출합니다. device는 cpu, mps, cuda 중 하나입니다.
- 연동
- 구간 및 단어 타임스탬프, 부분 전사 스트리밍, 마이크나 네트워크 스트림의 비동기 실시간 입력을 지원하는 Python API입니다. 클립 범위와 메모리 내 바이트도 받습니다. 삼진 가중치의 NeMo, ONNX, ggml 빌드는 없습니다.
- 데이터와 개인정보
- 로컬에서 실행되므로 오디오가 사용자 기기에 남습니다. CC BY 4.0은 NVIDIA와 Moondream을 출처로 표시하면 상업적 사용을 허용합니다.
- 대규모 사용 시 비용
- 실행 비용은 무료입니다. 8코어 EPYC 9575F 칩렛 하나에서 실시간의 113배라면 1,000시간 분량의 오디오가 약 9시간의 연산이며, GPU는 필요 없습니다.
- 제한
- 25개 유럽 언어만 지원합니다. 구간은 최대 30초로 자동 분할됩니다. 실시간 미리보기는 오디오 4초 뒤에 시작해 2초마다 갱신되며, 앞서 나온 텍스트가 바뀔 수 있습니다.
좋은 점
- 가중치 178 MB로 원본의 1.2 GB 대비 작음
- x86 코어 8개에서 실시간의 113배, parakeet.cpp의 2.5배(Moondream 기준)
- FLEURS와 긴 강연에서 원본보다 나음
- 쉼 감지 내장, 스트리밍과 단어 타임스탬프 지원
아쉬운 점
- 배경 소음에서 오류율이 6.72%에서 9.04%로 상승
- 프랑스어, 독일어, 러시아어, 폴란드어에서 더 나쁨
- Moondream의 Photon 엔진에서만 실행
- 모든 벤치마크가 Moondream 자체 측정
추천 대상
비교적 깨끗한 음성을 CPU, 노트북, Mac에서 전사하며, GPU 없이 Parakeet의 25개 언어를 쓰고 싶은 개발자.
Moondream Parakeet Redux 대안
Moondream Parakeet Redux: 자주 묻는 질문
- Moondream Parakeet Redux, 쓸 만한 가치가 있습니까?
- CPU나 Mac에서 전사할 때 Parakeet Redux는 영어 정확도를 조금, 소음 내성을 많이 내주는 대신 크기는 7분의 1, 속도는 두 배 이상인 모델을 줍니다. 평점은 5점 만점에 4.1점입니다.
- Moondream Parakeet Redux의 가격은 얼마입니까?
- CC BY 4.0의 무료 가중치입니다(출처 표시 시 상업적 사용 가능). 무료 moondream Python 패키지로 로컬에서 실행합니다.
- Moondream Parakeet Redux의 단점은 무엇입니까?
- 배경 소음에서 오류율이 6.72%에서 9.04%로 상승; 프랑스어, 독일어, 러시아어, 폴란드어에서 더 나쁨; Moondream의 Photon 엔진에서만 실행; 모든 벤치마크가 Moondream 자체 측정.
- Moondream Parakeet Redux에 적합한 사람은 누구입니까?
- 비교적 깨끗한 음성을 CPU, 노트북, Mac에서 전사하며, GPU 없이 Parakeet의 25개 언어를 쓰고 싶은 개발자.
- 팀이나 프로덕션 환경에서 Moondream Parakeet Redux의 비용은 얼마입니까?
- 실행 비용은 무료입니다. 8코어 EPYC 9575F 칩렛 하나에서 실시간의 113배라면 1,000시간 분량의 오디오가 약 9시간의 연산이며, GPU는 필요 없습니다.
- Moondream Parakeet Redux에 회사 데이터를 맡겨도 안전합니까?
- 로컬에서 실행되므로 오디오가 사용자 기기에 남습니다. CC BY 4.0은 NVIDIA와 Moondream을 출처로 표시하면 상업적 사용을 허용합니다.
- Moondream Parakeet Redux의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 Parakeet TDT 0.6B v3, Whisper large-v3-turbo 및 Voxtral 3 (Transcribe and TTS)입니다.
답변 확인일: 2026년 10월 31일.
Moondream Parakeet Redux 개발사입니까? 이 평점을 사이트에 표시하십시오
