Zum Inhalt springen
ReviewRamble

Der wöchentliche Brief

KI im Test, in deinem Postfach.

  • Neue Tests von Tools, Modellen, MCP-Servern und Repos, mit dem Urteil vorneweg
  • Neu geprüfte Preise und Bewertungen, wenn sich etwas ändert
  • Neue Analysen, sobald sie erscheinen

Modelle, Agenten, MCP-Server und die Tools, die deine Zeit wirklich wert sind.

Eine E-Mail pro Woche. Abmelden kannst du dich über den Link in jedem Brief. Wie wir deine E-Mail-Adresse nutzen

Haru-4B

Ein Apache-lizenziertes 4B-Basismodell, das gleichzeitig zuhört und spricht, mit 65ms Latenz auf einem MacBook und noch ohne Benchmark-Werte.

Getestet von ReviewRamble editors · Aktualisiert

Haru-4B besuchen Open Source

Diese Seite teilen:XLinkedInFacebookRedditWhatsAppE-Mail

Unsere Bewertung

3.6/5

Haru-4B ist ein ehrgeiziger offener Anfang bei Full-Duplex-Sprache mit Laptop-tauglicher Latenz, aber es ist ein Forschungs-Basismodell, das Stimmen klont und keine Werte veröffentlicht.

Was ist Haru-4B?

Haru-4B ist ein Full-Duplex-Sprache-zu-Sprache-Modell von higurashi, einem japanischen Start-up für Sprach-KI, veröffentlicht am 12. November 2026 unter Apache 2.0. Full Duplex heißt, dass es gleichzeitig zuhört und spricht, wie Menschen am Telefon, statt zu warten, bis du deinen Beitrag beendet hast. Alle 133 Millisekunden nimmt es einen Frame deines Audios auf und erzeugt einen Frame eigenes Audio und Text; die drei Ströme werden an einer einzigen Position eines Sprachmodells auf Basis von Qwen3.5-4B addiert. Sprache wird als kontinuierliche 64-dimensionale Latents statt als diskrete Audio-Token dargestellt, und ein kleiner MLP-Kopf erzeugt jedes davon in einem einzigen Sampling-Schritt.

Es wurde mit mehr als 40 Millionen Stunden echter Sprache in über 160 Sprachen vortrainiert, mit neun Hauptsprachen (Englisch, Spanisch, Portugiesisch, Deutsch, Französisch, Chinesisch, Japanisch, Russisch und Koreanisch), darunter über 13 Millionen Stunden getrennter Zwei-Personen-Gespräche von bis zu 60 Minuten. Eine Charakterkarte in Textform legt die Persona fest, ein Clip von 3 Sekunden bis 3 Minuten die Stimme. Es erscheint als vortrainiertes Basismodell für die Forschung, nicht als Assistent.

Lohnt sich Haru-4B?

Haru-4B ist ein ernsthafter offener Versuch am schwierigsten Teil der Sprach-KI, nämlich so über und um einen Menschen herum zu sprechen, wie Menschen es tun, und die Veröffentlichung liefert Architektur und Latenzwerte, aber keine Qualitätswerte. Der technische Beitrag von higurashi beschreibt Rückmeldesignale, Unterbrechungen und überlappende Sprache, gelernt aus echten Aufnahmen, und schloss von LLMs geschriebene Dialoge und Text-to-Speech-Audio bewusst vom Training aus. Er veröffentlicht keine Benchmark-Tabellen gegen Moshi, MiniCPM-o oder ein anderes Duplex-Modell, die Gesprächsqualität stützt sich also auf Demos.

Die Technik ist der stärkste Teil. Auf einem M1-Max-MacBook misst die native Swift-App mit int8-Gewichten etwa 65 Millisekunden Ende-zu-Ende, wovon ein Modellschritt 34,2ms dauert; die Framerate von 7,5Hz kann bis zu 133ms hinzufügen. Auf einer NVIDIA B300 brauchen Audio-Kodierung, -Dekodierung und ein Sprachmodellschritt etwa 15ms, und das vLLM-Omni-Plugin bedient viele Gespräche gleichzeitig. Dass es mit 7,5 Schritten pro Sekunde und kontinuierlichen Latents arbeitet, macht ein 4B-Modell schnell genug, um das auf einem Laptop zu leisten.

Der Umfang des Vortrainings ist für eine offene Veröffentlichung ungewöhnlich: 40 Millionen Stunden Sprache, trainiert auf 256 NVIDIA-B200-GPUs über etwa 8 Tage, mit Unterstützung von AWS und Japans GENIAC-Programm. Das Interesse kam schnell, mit 842 Likes auf Hugging Face und 716 GitHub-Sternen innerhalb weniger Tage.

Der Haken: Es ist ein Basismodell. Laut Model Card führt es ein natürliches Gespräch, ist aber keine verlässliche Faktenquelle und befolgt keine Anweisungen wie ein Assistent, und das Unternehmen sagt selbst, dass das kleine Grundmodell die Antwortqualität begrenzt. Es klont jede Stimme aus einem 3-Sekunden-Clip, ohne dass ein Wasserzeichen erwähnt wird, und überlässt die Einwilligung dem Nutzer; zudem öffnet der `--share`-Schalter der Demo einen öffentlichen Link, der Audio über die Server von Gradio leitet.

Unser Fazit: Für ein Labor oder Produktteam, das einen Sprachbegleiter baut, ist Haru-4B der offene Checkpoint, den man mit eigenen Zweikanal-Aufnahmen feinabstimmt; für eine Hotline, die korrekte Antworten geben muss, ist es eine Grundlage zum Studieren, nichts für das Telefon.

Wo es sich lohnt

  • Eine Forschungsgruppe für Sprachverarbeitung an einer Universität

    Sprecherwechsel und überlappende Sprache in einem offenen Modell untersuchen

    Die PyTorch-Implementierung auf einer NVIDIA-GPU mit 12GB ausführen und aufgezeichnetes Nutzer-Audio per Offline-Inferenz Frame für Frame einspeisen. Gewichte, Code und Architektur sind offen; ein ausführlicher technischer Bericht und der Trainingscode sind angekündigt, aber noch nicht erschienen.

  • Ein Start-up, das einen Sprachbegleiter zum Sprachenlernen baut

    Lernenden ein Gegenüber geben, das mitten im Satz reagiert statt zu warten

    Pro Tutor eine Charakterkarte schreiben und einen lizenzierten Stimmclip liefern. Vor dem Start ist Feinabstimmung nötig, weil das Basismodell keine Anweisungen befolgt; Produktionsverkehr über das vLLM-Omni-Plugin bedienen.

  • Ein Mac-Entwickler, der eine Sprach-App auf dem Gerät prototypisiert

    Duplex-Sprache mit niedriger Latenz ohne Cloud-Rechnung testen

    Die native Haru.app aus der MLX-Implementierung mit `./build_app.sh` bauen und kabelgebundene Kopfhörer nutzen; das Unternehmen meldet etwa 65ms Latenz auf einem M1 Max.

Bevor du dich festlegst

Einrichtung
`git clone https://github.com/higurashi-ai/Haru`, `pip install -e ./haru`, dann `python -m haru.server --hf-repo higurashi-ai/Haru-4B` und localhost:8998 öffnen; einen eigenen Stimmclip musst du hochladen, da keiner mitgeliefert wird.
Integrationen
PyTorch mit React-Webclient, MLX und eine native Swift-App für macOS, ein vLLM-Omni-Serving-Plugin und ein Offline-Befehl `haru-inference`; Triton-Codec-Kernels für NVIDIA-GPUs.
Daten und Datenschutz
Läuft vollständig auf deiner Hardware, außer du nutzt `--share`, das Audio über die Share-Server von Gradio an jeden mit dem Link leitet. Trainiert auf echter Sprache, bereinigt mit der Sidon-Sprachrestaurierung und mit dem hauseigenen FastDialogueSidon-Modell in zwei Kanäle getrennt; die Quellen sind nicht einzeln aufgeführt.
Kosten im großen Maßstab
Keine Lizenzgebühr. Ein Gespräch passt auf eine NVIDIA-GPU mit 12GB; für viele gleichzeitige Gespräche zielt der vLLM-Omni-Weg auf Rechenzentrums-GPUs, wo eine B300 einen vollständigen Schritt in etwa 15ms ausführt. Die Parallelität pro GPU ist nicht veröffentlicht.
Grenzen
24-kHz-Audio rein und raus, jeweils ein Frame von 133ms; Referenzstimme 3 Sekunden bis 3 Minuten von einer Person; keine Benchmarks, kein Befolgen von Anweisungen, und Browser erlauben das Mikrofon nur auf localhost oder über HTTPS.

Was gut ist

  • Hört und spricht gleichzeitig, mit Rückmeldesignalen und Unterbrechungen
  • Laut Unternehmen etwa 65ms Ende-zu-Ende-Latenz auf einem M1-Max-MacBook
  • Apache 2.0 für Gewichte und Code
  • Neun Hauptsprachen aus 40 Millionen Stunden echter Sprache
  • Implementierungen für PyTorch, MLX und vLLM-Omni werden mitgeliefert

Was nicht

  • Keine veröffentlichten Benchmarks oder Vergleiche mit anderen Duplex-Modellen
  • Basismodell: unzuverlässig bei Fakten und befolgt keine Anweisungen
  • Klont eine Stimme aus einem 3-Sekunden-Clip, ohne dass ein Wasserzeichen erwähnt wird
  • Bluetooth-Audio fügt 100ms oder mehr hinzu, daher werden kabelgebundene Headsets empfohlen

Am besten für

Sprachforscher und Teams für Sprachprodukte, die ein offenes Full-Duplex-Basismodell für natürliche, unterbrechbare Gespräche feinabstimmen wollen.

Alternativen zu Haru-4B

Haru-4B: häufige Fragen

Lohnt sich Haru-4B?
Haru-4B ist ein ehrgeiziger offener Anfang bei Full-Duplex-Sprache mit Laptop-tauglicher Latenz, aber es ist ein Forschungs-Basismodell, das Stimmen klont und keine Werte veröffentlicht. Wir bewerten es mit 3.6 von 5.
Was kostet Haru-4B?
Kostenlose Gewichte und kostenloser Code unter Apache 2.0. Selbst-Hosting braucht eine NVIDIA-GPU mit etwa 12GB Speicher oder einen Apple-Silicon-Mac; keine gehostete API.
Welche Nachteile hat Haru-4B?
Keine veröffentlichten Benchmarks oder Vergleiche mit anderen Duplex-Modellen; Basismodell: unzuverlässig bei Fakten und befolgt keine Anweisungen; Klont eine Stimme aus einem 3-Sekunden-Clip, ohne dass ein Wasserzeichen erwähnt wird; Bluetooth-Audio fügt 100ms oder mehr hinzu, daher werden kabelgebundene Headsets empfohlen.
Für wen eignet sich Haru-4B?
Sprachforscher und Teams für Sprachprodukte, die ein offenes Full-Duplex-Basismodell für natürliche, unterbrechbare Gespräche feinabstimmen wollen.
Was kostet Haru-4B für ein Team oder im Produktivbetrieb?
Keine Lizenzgebühr. Ein Gespräch passt auf eine NVIDIA-GPU mit 12GB; für viele gleichzeitige Gespräche zielt der vLLM-Omni-Weg auf Rechenzentrums-GPUs, wo eine B300 einen vollständigen Schritt in etwa 15ms ausführt. Die Parallelität pro GPU ist nicht veröffentlicht.
Ist Haru-4B sicher für Firmendaten?
Läuft vollständig auf deiner Hardware, außer du nutzt `--share`, das Audio über die Share-Server von Gradio an jeden mit dem Link leitet. Trainiert auf echter Sprache, bereinigt mit der Sidon-Sprachrestaurierung und mit dem hauseigenen FastDialogueSidon-Modell in zwei Kanäle getrennt; die Quellen sind nicht einzeln aufgeführt.
Was sind die besten Alternativen zu Haru-4B?
Die nächsten Alternativen, die wir getestet haben, sind MiniCPM-o 4.5, GPT-Live-1 (and GPT-Realtime-2.1) und Sesame CSM-1B.

Antworten geprüft am 21. Nov. 2026.