Whistle의 개요
Whistle은 Y Combinator의 투자를 받은 온디바이스 AI 회사 Cactus Compute가 2026년 10월 2일 공개한 음성 인식 모델입니다. 모델 전체가 2에서 4비트로 양자화된 16.9 MB 파일 하나입니다. 영어, 독일어, 프랑스어, 스페인어, 이탈리아어, 네덜란드어, 폴란드어를 전사하고, 언어를 스스로 감지하며, 단어별 타임스탬프를 반환하고, 텍스트 대신 오디오 임베딩을 출력할 수도 있습니다. 키워드 목록을 주면 예상되는 이름과 전문 용어 쪽으로 디코딩을 유도합니다.
Cactus의 도구 호출 모델 Needle과 같은 C++ 엔진에서 돌아가므로, 바이너리 하나가 음성 클립을 받아 한 단계로 도구 호출을 반환할 수 있습니다. 디코더는 사다리 구조라 2층 이상의 모든 깊이가 쓸 수 있는 모델이며, 로드할 때 정확도와 크기를 맞바꿀 수 있습니다.
가중치는 Apache 2.0이지만 엔진은 소스가 아니라 사전 빌드된 바이너리로 배포됩니다. 10월 19일 Better Stack이 소개해 널리 공유된 $10짜리 ESP32-S3 마이크로컨트롤러 위의 Whistle 데모는 그 영상을 위해 만든 독립 재구현(GitHub의 andrisgauracs/whistle-esp32)이며, Cactus는 마이크로컨트롤러용 빌드를 제공하지 않습니다.
Whistle, 쓸 만한 가치가 있습니까?
Whistle은 크기 대비 정확도로 주목받을 만합니다. 16.9 MB로 Whisper base보다 8.6배 작고, Cactus 수치로는 LibriSpeech test-clean(단어 오류율 4.31%), test-other(10.49%), SPGISpeech, Earnings-22, FLEURS 평균에서 Whisper base를 앞섭니다. Apple M4 Pro에서 10초 클립의 첫 토큰까지 11.1 ms로 Whisper base의 73.2 ms보다 빠르고, 초당 1,319토큰을 디코딩합니다.
비교 대상은 신중하게 골랐습니다. Whistle은 훨씬 정확하고 훨씬 큰 Whisper large-v3-turbo나 Parakeet과는 비교하지 않습니다. Whisper base는 여전히 TED-LIUM, AMI 회의 오디오(Whistle은 26.07%), MLS 다국어 평균에서 이기므로, 강연과 회의가 약점입니다. 경쟁 모델 점수는 다시 돌린 것이 아니라 각 개발사가 발표한 값이며, Cactus도 이를 공개적으로 밝힙니다.
$10짜리 칩 이야기는 사실이지만 각주가 필요합니다. Better Stack 포트는 디코더를 4층(14.5 MB)으로 줄이고 자체 C 엔진을 작성해 16 MB 플래시와 8 MB PSRAM을 갖춘 ESP32-S3에서 돌렸습니다. 2초짜리 명령을 전사하는 데 6.3초가 걸리고, 깊이 4는 LibriSpeech 클립 73개에서 단어 오류율 11.7%를 기록하며, 네덜란드어는 모델 자체가 잘 인식하지 못합니다. 이 포트의 메모에는 공식 엔진이 10초간의 마이크 잡음을 "Thank you"로 전사한다는 내용도 있어, 음성 활동 감지 게이트는 선택 사항이 아닙니다.
가장 큰 유보 사항은 조건입니다. 가중치는 Apache 2.0이지만 엔진은 소스가 공개되지 않은 사전 빌드 라이브러리라, 포팅하려면 ESP32 포트처럼 리버스 엔지니어링을 해야 합니다. Python 패키지와 바이너리는 NEEDLE_TELEMETRY=0을 설정하기 전까지 기본적으로 익명 사용량을 전송합니다. 오디오가 기기를 떠나지 않는다는 점을 내세우는 제품으로서는 이상한 기본값입니다.
제 역할을 하는 곳
Linux 기반 허브를 출시하는 스마트홈 하드웨어 스타트업
클라우드 비용 없이 영어, 독일어, 프랑스어 오프라인 음성 제어 추가하기
허브의 ARM 보드에서 엔진 하나로 whistle.cact와 needle3.cact를 로드합니다. 클립이 들어가면 도구 호출이 나오고, 방과 기기 이름에 키워드 편향을 걸 수 있습니다. 분당 요금은 없지만, 음성 활동 감지기에 들 엔지니어링 시간은 예산에 넣으십시오.
마이크로컨트롤러로 프로토타입을 만드는 취미 사용자나 임베디드 엔지니어
$10짜리 ESP32-S3에서 고정 문구 목록이 아닌 실제 전사 돌리기
커뮤니티 whistle-esp32 프로젝트를 따릅니다. N16R8 보드, INMP441 마이크, 4층 14.5 MB 모델이 필요합니다. 짧은 명령 하나에 약 6초가 걸리고 네덜란드어는 약하다고 예상하십시오.
메모 앱의 모바일 개발자
탐색과 편집을 위한 단어 타임스탬프가 있는 기기 내 받아쓰기 제공하기
프로토타입은 pip install cactus-needle로 시작하고, iOS나 Android 앱에는 libneedle.a를 링크합니다. NEEDLE_TELEMETRY=0을 설정하고, Whisper base가 여전히 더 나은 회의형 오디오로 테스트하십시오.
도입 전 확인할 점
- 설정
- pip install cactus-needle 후 needle.transcribe("clip.wav")를 호출합니다. 엔진과 가중치는 한 번 내려받아 캐시됩니다. 네이티브 폴더에는 플랫폼별로 needle CLI, libneedle.a, needle.h가 들어 있습니다.
- 연동
- Python 패키지, C API(needle_load, needle_transcribe, needle_embed), macOS, x86, ARM, RISC-V, MIPS의 Linux, Windows, Android, iOS, watchOS, 브라우저, WASI용 사전 빌드 엔진이 있습니다. LoRA 파인튜닝으로 언어를 추가할 수 있습니다.
- 데이터와 개인정보
- 추론은 전부 기기에서 실행되며 네트워크가 차단된 환경에서도 작동합니다. 패키지는 기본적으로 익명 사용량을 전송하며, NEEDLE_TELEMETRY=0과 DO_NOT_TRACK=1로 끌 수 있습니다.
- 대규모 사용 시 비용
- 라이선스 비용도 분당 요금도 없습니다. 비용은 기기의 CPU 시간입니다. 커뮤니티 포트에서 240 MHz ESP32-S3로 2초 명령에 6.3초가 걸리고, M4 Pro에서 10초 클립의 첫 토큰까지 11.1 ms가 걸립니다.
- 제한
- 한 번에 30초를 처리하고 그 이상은 윈도우로 나눕니다. 전사는 한 번에 320토큰으로 제한됩니다. 음악과 잡음이 지어낸 텍스트를 만들 수 있습니다. Cactus의 마이크로컨트롤러 빌드와 엔진 소스는 없습니다.
좋은 점
- 16.9 MB, CPU 전용, 의존성 없음
- 자동 감지와 단어 타임스탬프를 갖춘 7개 언어 지원
- Cactus에 따르면 LibriSpeech, Earnings-22, FLEURS에서 Whisper base를 앞섬
- Needle과 결합해 한 번의 호출로 음성을 도구 호출로 바꿈
아쉬운 점
- 작은 경쟁 모델과만 비교했고, 회의와 강연에 약함
- 엔진은 비공개 소스이며 공개된 것은 가중치뿐
- 텔레메트리가 기본으로 켜져 있음
- 잡음을 단어로 전사할 수 있어 음성 활동 감지 게이트가 필요함
추천 대상
Whisper를 올리기에는 너무 작은 하드웨어에서 유럽 언어 오프라인 음성 명령이 필요한 기기 제조사.
Whistle 대안
Whistle: 자주 묻는 질문
- Whistle, 쓸 만한 가치가 있습니까?
- 16.9 MB에 쓸 만한 7개 언어 음성 인식을 담았지만, 업체는 엔진을 비공개로 두고 텔레메트리를 켜 둡니다. 평점은 5점 만점에 3.8점입니다.
- Whistle의 가격은 얼마입니까?
- Apache 2.0 오픈 웨이트로 무료이며, 사전 빌드된 엔진도 무료로 내려받을 수 있습니다. Cactus는 자사 플랫폼에서 파인튜닝과 배포 지원을 판매하며, 가격은 공개하지 않습니다.
- Whistle의 단점은 무엇입니까?
- 작은 경쟁 모델과만 비교했고, 회의와 강연에 약함; 엔진은 비공개 소스이며 공개된 것은 가중치뿐; 텔레메트리가 기본으로 켜져 있음; 잡음을 단어로 전사할 수 있어 음성 활동 감지 게이트가 필요함.
- Whistle에 적합한 사람은 누구입니까?
- Whisper를 올리기에는 너무 작은 하드웨어에서 유럽 언어 오프라인 음성 명령이 필요한 기기 제조사.
- 팀이나 프로덕션 환경에서 Whistle의 비용은 얼마입니까?
- 라이선스 비용도 분당 요금도 없습니다. 비용은 기기의 CPU 시간입니다. 커뮤니티 포트에서 240 MHz ESP32-S3로 2초 명령에 6.3초가 걸리고, M4 Pro에서 10초 클립의 첫 토큰까지 11.1 ms가 걸립니다.
- Whistle에 회사 데이터를 맡겨도 안전합니까?
- 추론은 전부 기기에서 실행되며 네트워크가 차단된 환경에서도 작동합니다. 패키지는 기본적으로 익명 사용량을 전송하며, NEEDLE_TELEMETRY=0과 DO_NOT_TRACK=1로 끌 수 있습니다.
- Whistle의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 Whisper large-v3-turbo, Parakeet TDT 0.6B v3 및 VibeVoice-ASR입니다.
답변 확인일: 2026년 11월 2일.