본문으로 건너뛰기
ReviewRamble

주간 브리프

AI 리뷰를 받은편지함으로.

  • 도구, 모델, MCP 서버, 저장소의 새 리뷰(결론부터)
  • 변경이 있을 때 다시 확인한 가격과 평점
  • 새로 발행된 분석 글

모델, 에이전트, MCP 서버, 그리고 정말 시간을 들일 만한 도구.

일주일에 한 통입니다. 각 브리프의 링크로 구독을 해지할 수 있습니다. 이메일 사용 방식

Phonon-2

NVIDIA의 Parakeet 음성 모델을 영어 정확도를 거의 그대로 둔 채 164MB 다운로드로 줄였습니다. 노트북과 휴대폰용입니다.

리뷰어: Andrew Miller · 업데이트

Phonon-2 방문 무료

평점

4.1/5

Phonon-2는 크기를 15분의 1로 줄이고 정확도는 거의 그대로 유지한 Parakeet입니다. 덕분에 앱 다운로드 안에 쓸 만한 영어 받아쓰기를 넣을 수 있게 되었습니다.

Phonon-2의 개요

Phonon-2는 Fermion Research가 만든 영어 음성 인식 모델로, 2026년 9월 28일 Hugging Face에 공개되었습니다. NVIDIA Parakeet TDT 0.6B v3의 압축판입니다. 양자화 인식 학습으로 인코더 가중치 하나하나를 학습된 5개 수준 중 하나, 약 2.1비트로 저장하며, 그 결과 다운로드 크기가 2,508MB에서 164MB로 줄었습니다.

Apple Silicon에서는 MLX로, Core ML 빌드를 통해서는 Neural Engine에서 돌아갑니다. Linux와 Windows CPU, Docker를 통한 NVIDIA GPU, 네이티브 라이브러리를 통한 Android arm64에서도 실행됩니다. Fermion이 Apple Silicon Mac용으로 무료 제공하는 온디바이스 받아쓰기 앱 Detta에 들어간 모델이기도 합니다.

가중치는 Parakeet의 CC-BY-4.0 라이선스를 그대로 따르므로 출처를 표시하면 상업적으로 쓸 수 있습니다. Fermion의 명령줄 도구와 코드는 Apache 2.0입니다.

Phonon-2의 가격은 얼마입니까?

플랜가격포함 내용
WeightsFreeCC-BY-4.0, 출처 표시 필요
Detta (Mac)FreeApple Silicon, macOS 26.2 이상

가중치는 CC-BY-4.0으로 무료이고, CLI와 코드는 Apache 2.0입니다. Detta 앱은 Apple Silicon Mac에서 무료입니다.

Phonon-2, 쓸 만한 가치가 있습니까?

Phonon-2의 성과는 새 모델이 아니라 압축이며, 수치는 잘 버팁니다. Open ASR Leaderboard의 영어 세트 7개에서 평균 단어 오류율은 5.21%로, 원본인 전체 Parakeet의 4.96%와 비교됩니다. 파일을 15분의 1(15-fold)로 줄이는 대가로 0.25포인트를 잃은 셈입니다. 비슷한 크기인 Moondream의 Parakeet Redux(178MB, 5.69%)와 Whisper large-v3-turbo(1,618MB, 6.58%)보다 낫고, 의회 연설(VoxPopuli, 2.46 대 3.19)에서는 원본보다도 낫습니다.

이 수치는 Fermion이 낸 것이지만, 리더보드의 자체 코드로 전체 테스트 세트에서 측정했고, 리더보드 수치로 표시된 비교 행은 확인할 수 있습니다. 손실은 강한 양자화에서 예상되는 곳에 몰려 있습니다. 실적 발표 통화(6.96 대 5.85)와 LibriSpeech other(3.92 대 3.13)처럼 더 어렵고 잡음이 많은 세트입니다.

관심을 둘 두 번째 이유는 속도입니다. Fermion에 따르면 M5 MacBook Air에서 1시간 분량 오디오를 약 20초에 처리합니다(실시간의 174배). Zen 5 코어 8개에서는 143배, H100 1장에서 128개 배치로는 6,680배입니다. CPU 처리량이 이 정도면 노트북이나 작은 클라우드 인스턴스로도 GPU 없이 받아쓰기를 할 수 있습니다.

한계는 Parakeet의 한계에 하나가 더해진 것입니다. 영어만 지원하고, 구두점과 대소문자 규칙은 NVIDIA의 것을 물려받았으며, 화자 구분이 없습니다. 또 엔진이 로드할 때 가중치를 풀어 놓기 때문에 다운로드 크기가 곧 실행 시 메모리는 아닙니다. Fermion은 소재지를 공개하지 않는 작은 회사입니다. 다국어나 화자 분리 작업에는 Nemotron 3.5 Transcribe가 더 나은 모델입니다. 앱에 넣어 배포하는 164MB 영어 모델로서는, 900MB 미만 오픈 모델 중 가장 정확하다는 Fermion의 주장이 공개한 모든 비교 행과 맞아떨어집니다.

제 역할을 하는 곳

  • 메모 앱을 만드는 iOS 및 macOS 개발자

    클라우드 비용 없이 오프라인 영어 받아쓰기 추가

    Neural Engine용 Core ML 빌드를 함께 묶습니다. 164MB 모델은 일반적인 앱 다운로드 안에 들어가고, 받아쓰기 데이터가 기기를 떠나지 않으므로 개인정보 처리방침도 단순해집니다.

  • 팟캐스트 호스팅 회사의 백엔드 엔지니어

    GPU 없이 매달 영어 에피소드 5,000시간 받아쓰기

    vCPU 16개에서 실시간의 143배라면 인스턴스 하나가 1시간에 오디오 약 143시간을 처리합니다. 따라서 CPU Docker 이미지로 한 달에 약 35인스턴스시간이면 밀린 작업을 소화할 수 있습니다.

  • 현장 서비스 소프트웨어 회사의 Android 개발자

    신호가 없는 곳에서도 기술자가 작업 메모를 받아쓰게 하기

    Fermion은 API 26 이상용 arm64-v8a CPU 엔진 라이브러리를 C 헤더와 함께 공개합니다. 데스크톱에서는 --json으로 단어별 타이밍을 받을 수 있고, CC-BY 라이선스가 요구하는 것은 출처 표시뿐입니다.

도입 전 확인할 점

설정
Apple Silicon에서 pip install fermion-research와 mlx 패키지를 설치하고(Python 3.10 이상), phonon transcribe recording.wav를 실행합니다. 또는 CPU나 CUDA 이미지로 docker run 한 번이면 됩니다.
연동
MLX, Core ML(Neural Engine), Linux와 Windows CPU 엔진, CUDA Docker 이미지, Android 네이티브 라이브러리, Fermion이 문서화한 로컬 서버, Detta Mac 앱.
데이터와 개인정보
전부 자신의 하드웨어에서 실행되며 Fermion으로 전송되는 것은 없습니다. 가중치는 NVIDIA 원본과 같은 CC-BY-4.0이고 변경 사항을 적은 NOTICE가 붙어 있습니다. 코드는 Apache 2.0입니다.
대규모 사용 시 비용
GPU가 필요 없습니다. Zen 5 코어 8개에서 실시간의 약 143배입니다. H100 1장에서 128개 배치로 돌리면 Fermion 기준 실시간의 6,680배, 1분에 오디오 약 111시간입니다.
제한
영어만 지원합니다. 출력 규칙은 Parakeet의 것을 따르고 화자 분리가 없습니다. 로드할 때 가중치를 풀기 때문에 실행 시 메모리는 164MB 다운로드보다 큽니다.

좋은 점

  • 164MB 다운로드로 영어 평균 WER 5.21%, 2.5GB 원본은 4.96%
  • M5 MacBook Air에서 실시간의 174배, CPU 코어 8개에서 143배
  • MLX, Core ML, Linux와 Windows CPU, CUDA, Android에서 실행
  • CC-BY-4.0으로 출처 표시 시 상업적 이용 가능

아쉬운 점

  • 영어만 지원
  • 실적 발표 통화에서 원본보다 WER이 약 1포인트 나쁨
  • 화자 구분과 번역 없음
  • 정확도와 속도 수치는 Fermion 자체 측정

추천 대상

수 기가바이트짜리 모델을 배포하지 않고 노트북, 휴대폰, CPU 서버에서 정확한 영어 음성 인식이 필요한 앱 개발자.

Phonon-2 대안

Phonon-2: 자주 묻는 질문

Phonon-2, 쓸 만한 가치가 있습니까?
Phonon-2는 크기를 15분의 1로 줄이고 정확도는 거의 그대로 유지한 Parakeet입니다. 덕분에 앱 다운로드 안에 쓸 만한 영어 받아쓰기를 넣을 수 있게 되었습니다. 평점은 5점 만점에 4.1점입니다.
Phonon-2의 가격은 얼마입니까?
가중치는 CC-BY-4.0으로 무료이고, CLI와 코드는 Apache 2.0입니다. Detta 앱은 Apple Silicon Mac에서 무료입니다.
Phonon-2의 단점은 무엇입니까?
영어만 지원; 실적 발표 통화에서 원본보다 WER이 약 1포인트 나쁨; 화자 구분과 번역 없음; 정확도와 속도 수치는 Fermion 자체 측정.
Phonon-2에 적합한 사람은 누구입니까?
수 기가바이트짜리 모델을 배포하지 않고 노트북, 휴대폰, CPU 서버에서 정확한 영어 음성 인식이 필요한 앱 개발자.
팀이나 프로덕션 환경에서 Phonon-2의 비용은 얼마입니까?
GPU가 필요 없습니다. Zen 5 코어 8개에서 실시간의 약 143배입니다. H100 1장에서 128개 배치로 돌리면 Fermion 기준 실시간의 6,680배, 1분에 오디오 약 111시간입니다.
Phonon-2에 회사 데이터를 맡겨도 안전합니까?
전부 자신의 하드웨어에서 실행되며 Fermion으로 전송되는 것은 없습니다. 가중치는 NVIDIA 원본과 같은 CC-BY-4.0이고 변경 사항을 적은 NOTICE가 붙어 있습니다. 코드는 Apache 2.0입니다.
Phonon-2의 가장 좋은 대안은 무엇입니까?
저희가 리뷰한 것 중 가장 가까운 대안은 Parakeet TDT 0.6B v3, Whisper large-v3-turbo 및 NVIDIA Nemotron 3.5 Transcribe입니다.

답변 확인일: 2026년 10월 31일.

Phonon-2 개발사입니까? 이 평점을 사이트에 표시하십시오ReviewRamble 평점: Phonon-2, 5점 만점에 4.1점