Was ist Whistle?
Whistle ist ein Spracherkennungsmodell von Cactus Compute, einem von Y Combinator unterstützten Unternehmen für KI auf dem Gerät, veröffentlicht am 2. Oktober 2026. Das ganze Modell ist eine einzige Datei mit 16,9 MB, quantisiert auf 2 bis 4 Bit. Es transkribiert Englisch, Deutsch, Französisch, Spanisch, Italienisch, Niederländisch und Polnisch, erkennt die Sprache selbst, liefert Zeitstempel pro Wort und kann statt Text ein Audio-Embedding ausgeben. Eine Schlüsselwortliste lenkt das Dekodieren auf erwartete Namen und Fachbegriffe.
Es läuft auf derselben C++-Engine wie Cactus' Modell für Tool-Aufrufe Needle, eine einzige Binärdatei kann also einen Sprachclip annehmen und in einem Schritt Tool-Aufrufe zurückgeben. Sein Decoder ist gestuft: Jede Tiefe ab 2 Schichten ist ein nutzbares Modell, du kannst also beim Laden Genauigkeit gegen Größe tauschen.
Die Gewichte stehen unter Apache 2.0, die Engine wird aber als vorkompilierte Binärdatei statt als Quellcode ausgeliefert. Die viel geteilte Demo von Whistle auf einem Mikrocontroller ESP32-S3 für 10 $, über die Better Stack am 19. Oktober berichtete, ist eine unabhängige Neuimplementierung, die für dieses Video gebaut wurde (andrisgauracs/whistle-esp32 auf GitHub); Cactus liefert keinen Build für Mikrocontroller.
Lohnt sich Whistle?
Whistle verdient Aufmerksamkeit für sein Verhältnis von Größe zu Genauigkeit. Mit 16,9 MB ist es 8,6-mal kleiner als Whisper base und schlägt es nach Cactus' Zahlen auf LibriSpeech test-clean (4,31% Wortfehlerrate), test-other (10,49%), SPGISpeech, Earnings-22 und im Durchschnitt von FLEURS. Auf einem Apple M4 Pro erreicht ein Clip mit 10 Sekunden das erste Token in 11,1 ms, gegenüber 73,2 ms für Whisper base, und dekodiert mit 1.319 Tokens pro Sekunde.
Der Vergleich ist mit Bedacht gewählt. Whistle wird nicht mit Whisper large-v3-turbo oder Parakeet verglichen, die weit genauer und weit größer sind. Whisper base gewinnt weiterhin auf TED-LIUM, bei Meeting-Audio aus AMI (Whistle kommt auf 26,07%) und im mehrsprachigen Durchschnitt von MLS. Vorträge und Meetings sind also sein schwaches Terrain. Die Werte der Konkurrenz sind die von ihren Autoren veröffentlichten, nicht neu gemessen, was Cactus offen sagt.
Die Geschichte vom Chip für 10 $ stimmt, braucht aber die Fußnote. Die Portierung von Better Stack kürzte den Decoder auf vier Schichten (14,5 MB) und schrieb eine eigene C-Engine, um ihn auf einem ESP32-S3 mit 16 MB Flash und 8 MB PSRAM laufen zu lassen. Ein Befehl mit 2 Sekunden braucht 6,3 Sekunden zur Transkription, Tiefe 4 kommt auf 73 Clips aus LibriSpeech auf 11,7% Wortfehlerrate, und Niederländisch erkennt schon das Modell selbst schlecht. Die Notizen zeigen außerdem, dass die offizielle Engine zehn Sekunden Mikrofonrauschen als "Thank you" transkribiert, eine Sprachaktivitätserkennung ist also nicht optional.
Die Bedingungen sind der wichtigste Vorbehalt. Die Gewichte stehen unter Apache 2.0, aber die Engine ist eine vorkompilierte Bibliothek ohne veröffentlichten Quellcode, eine Portierung bedeutet also Reverse Engineering, wie bei der ESP32-Portierung. Python-Paket und Binärdateien senden standardmäßig anonyme Nutzungszahlen, bis du NEEDLE_TELEMETRY=0 setzt, eine seltsame Voreinstellung für ein Produkt, das damit wirbt, dass Audio nie das Gerät verlässt.
Wo es sich lohnt
Ein Startup für Smart-Home-Hardware, das einen Hub auf Linux-Basis ausliefert
Offline-Sprachsteuerung auf Englisch, Deutsch und Französisch ohne Cloud-Rechnung ergänzen
Lade whistle.cact und needle3.cact in eine Engine auf der ARM-Platine des Hubs; ein Clip geht hinein und Tool-Aufrufe kommen heraus, mit Schlüsselwörtern für Raum- und Gerätenamen. Keine Gebühren pro Minute; plane Entwicklungszeit für eine Sprachaktivitätserkennung ein.
Ein Bastler oder Embedded-Entwickler, der Prototypen auf Mikrocontrollern baut
Echte Transkription statt einer festen Phrasenliste auf einem ESP32-S3 für 10 $ betreiben
Folge dem Community-Projekt whistle-esp32: eine Platine N16R8, ein Mikrofon INMP441 und das Modell mit 4 Schichten und 14,5 MB. Rechne mit etwa 6 Sekunden pro kurzem Befehl und schwachem Niederländisch.
Eine Mobile-Entwicklerin bei einer Notiz-App
Diktieren auf dem Gerät mit Wort-Zeitstempeln zum Springen und Bearbeiten anbieten
pip install cactus-needle für Prototypen, dann libneedle.a in die iOS- oder Android-App einbinden. Setze NEEDLE_TELEMETRY=0 und teste mit Audio im Stil von Meetings, wo Whisper base weiterhin besser abschneidet.
Bevor du dich festlegst
- Einrichtung
- pip install cactus-needle, dann needle.transcribe("clip.wav"); Engine und Gewichte werden einmal heruntergeladen und zwischengespeichert. Native Ordner liefern pro Plattform eine needle-CLI, libneedle.a und needle.h.
- Integrationen
- Python-Paket; C-API (needle_load, needle_transcribe, needle_embed); vorkompilierte Engines für macOS, Linux auf x86, ARM, RISC-V und MIPS, Windows, Android, iOS, watchOS, den Browser und WASI. LoRA-Feinabstimmung kann eine Sprache ergänzen.
- Daten und Datenschutz
- Die Inferenz läuft vollständig auf dem Gerät und funktioniert Air-Gapped. Das Paket sendet standardmäßig anonyme Nutzungszahlen; NEEDLE_TELEMETRY=0 und DO_NOT_TRACK=1 schalten das ab.
- Kosten im großen Maßstab
- Keine Lizenz- oder Minutengebühren. Die Kosten sind CPU-Zeit auf dem Gerät: Ein Befehl mit 2 Sekunden braucht in der Community-Portierung auf einem ESP32-S3 mit 240 MHz 6,3 Sekunden, und ein Clip mit 10 Sekunden erreicht auf einem M4 Pro das erste Token in 11,1 ms.
- Grenzen
- Ein Durchgang deckt 30 Sekunden ab, darüber hinaus in Fenstern; Transkripte sind auf 320 Tokens pro Durchgang begrenzt. Musik und Rauschen können erfundenen Text erzeugen. Kein Build für Mikrocontroller von Cactus und kein Quellcode der Engine.
Was gut ist
- 16,9 MB, nur CPU, keine Abhängigkeiten
- Sieben Sprachen mit automatischer Erkennung und Wort-Zeitstempeln
- Schlägt Whisper base auf LibriSpeech, Earnings-22 und FLEURS, laut Cactus
- Verwandelt zusammen mit Needle Sprache in einem Aufruf in Tool-Aufrufe
Was nicht
- Nur mit kleinen Konkurrenten verglichen; schwächer bei Meetings und Vorträgen
- Engine ist Closed Source; nur die Gewichte sind offen
- Telemetrie standardmäßig aktiv
- Kann Rauschen als Wörter transkribieren; braucht eine Sprachaktivitätserkennung
Am besten für
Gerätehersteller, die Offline-Sprachbefehle in europäischen Sprachen auf Hardware brauchen, die für Whisper zu klein ist.
Alternativen zu Whistle
Whistle: häufige Fragen
- Lohnt sich Whistle?
- Brauchbare Spracherkennung in sieben Sprachen mit 16,9 MB, von einem Anbieter, der die Engine geschlossen und seine Telemetrie eingeschaltet hält. Wir bewerten es mit 3.8 von 5.
- Was kostet Whistle?
- Kostenlose offene Gewichte unter Apache 2.0; die vorkompilierte Engine ist kostenlos herunterladbar. Cactus verkauft auf seiner Plattform Hilfe bei Feinabstimmung und Bereitstellung; Preise nicht veröffentlicht.
- Welche Nachteile hat Whistle?
- Nur mit kleinen Konkurrenten verglichen; schwächer bei Meetings und Vorträgen; Engine ist Closed Source; nur die Gewichte sind offen; Telemetrie standardmäßig aktiv; Kann Rauschen als Wörter transkribieren; braucht eine Sprachaktivitätserkennung.
- Für wen eignet sich Whistle?
- Gerätehersteller, die Offline-Sprachbefehle in europäischen Sprachen auf Hardware brauchen, die für Whisper zu klein ist.
- Was kostet Whistle für ein Team oder im Produktivbetrieb?
- Keine Lizenz- oder Minutengebühren. Die Kosten sind CPU-Zeit auf dem Gerät: Ein Befehl mit 2 Sekunden braucht in der Community-Portierung auf einem ESP32-S3 mit 240 MHz 6,3 Sekunden, und ein Clip mit 10 Sekunden erreicht auf einem M4 Pro das erste Token in 11,1 ms.
- Ist Whistle sicher für Firmendaten?
- Die Inferenz läuft vollständig auf dem Gerät und funktioniert Air-Gapped. Das Paket sendet standardmäßig anonyme Nutzungszahlen; NEEDLE_TELEMETRY=0 und DO_NOT_TRACK=1 schalten das ab.
- Was sind die besten Alternativen zu Whistle?
- Die nächsten Alternativen, die wir getestet haben, sind Whisper large-v3-turbo, Parakeet TDT 0.6B v3 und VibeVoice-ASR.
Antworten geprüft am 2. Nov. 2026.