Zum Inhalt springen
ReviewRamble

Der wöchentliche Brief

KI im Test, in deinem Postfach.

  • Neue Tests von Tools, Modellen, MCP-Servern und Repos, mit dem Urteil vorneweg
  • Neu geprüfte Preise und Bewertungen, wenn sich etwas ändert
  • Neue Analysen, sobald sie erscheinen

Modelle, Agenten, MCP-Server und die Tools, die deine Zeit wirklich wert sind.

Eine E-Mail pro Woche. Abmelden kannst du dich über den Link in jedem Brief. Wie wir deine E-Mail-Adresse nutzen

KI-News & Forschung

News ·

Hugging Face veröffentlicht Swift-Pakete für lokale Sprach- und Entscheidungsmodelle auf Apple-Geräten

Hugging Face hat AnySpeechRecognizer veröffentlicht, das Apples SpeechAnalyzer-API nachbildet, aber Engines wie NVIDIA Parakeet oder Qwen3-ASR einsetzbar macht und Sprechertrennung ergänzt, dazu AnyDecisionModel für typisierte Ja/Nein-, Auswahl- und Bewertungsantworten. Auf einem M4 Max kam Parakeet Unified auf LibriSpeech clean auf 1,43% Wortfehlerrate, Apples Engine auf 2,12%.

Apple hat mit macOS 26 und iOS 26 eine neue Sprache-zu-Text-API eingeführt, SpeechAnalyzer, doch Apps, die sie nutzen, sind an Apples eigene Erkennungs-Engine gebunden. Hugging Face hat zwei Open-Source-Pakete für Swift veröffentlicht, die diese Bindung lockern. AnySpeechRecognizer übernimmt die Namen von Apples API, sodass eine bestehende App die Engine wechseln kann, indem sie einen Import und eine Zeile der Einrichtung ändert, und AnyDecisionModel bietet Entwicklern einen typisierten Weg, einem Modell Ja-Nein-Fragen, Auswahlfragen und Bewertungsfragen zu stellen. Beide laden offene Modelle vom Hugging Face Hub und führen sie auf dem Gerät aus.

Das Sprachpaket unterstützt drei Versionen von NVIDIAs Parakeet, darunter Parakeet TDT 0.6B v3, das 25 europäische Sprachen erkennt, sowie Alibabas Qwen3-ASR in den Größen 0.6B und 1.7B, das 30 Sprachen und 22 chinesische Dialekte abdeckt. Hugging Face hat die Modelle nach Core ML konvertiert und jedes auf eine feste Revision festgelegt. Dazu kommt etwas, das Apple fehlt: Sprechertrennung mit NVIDIAs Streaming Sortformer, das bis zu vier Sprecher kennzeichnet, auch wenn sie durcheinanderreden. Auf einem Mac Studio mit M4 Max maß Hugging Face für Parakeet Unified eine Wortfehlerrate von 1,43% auf dem sauberen LibriSpeech-Audio gegenüber 2,12% für Apples Engine und gibt an, dass Parakeet eine Stunde Audio aus einer Datei in etwa 20 bis 40 Sekunden mit rund 100 MB Speicher transkribiert. Jeder Parakeet-Download ist etwa 600 MB groß.

AnyDecisionModel geht eine häufige Aufgabe anders an: zu entscheiden, ob eine Nachricht dringend ist oder welches Team ein Ticket bekommen soll. Statt den Text zu zerlegen, den ein Sprachmodell schreibt, liest es die Wahrscheinlichkeit, die das Modell jeder zulässigen Antwort zuweist, sodass die App zu jeder Entscheidung einen Konfidenzwert erhält. Es kann kleine Modelle lokal über MLX, Core AI oder llama.cpp ausführen, Cloudflares Clef nutzen, ein eigens für Entscheidungen trainiertes Modell, oder gehostete Dienste wie Jev und Ollama aufrufen. Das Paket enthält Kalibrierungsoptionen, weil rohe Modellwahrscheinlichkeiten meist zu selbstsicher ausfallen.

Für Apple-Entwickler sinkt damit der Aufwand, die Sprachmodelle auszuprobieren, die wir besprechen, Parakeet TDT 0.6B v3 und Qwen3-ASR, ohne sich auf eine neue API festzulegen, und Klassifizierungsarbeit von einem Chat-Modell in der Cloud auf das Gerät zu verlagern. Die Pakete haben keine Abhängigkeiten von Drittanbietern, solange die lokalen Backends nicht eingeschaltet sind.

Die Grenzen nennt Hugging Face selbst deutlich. Alle Messungen stammen von einem einzigen Mac und wenigen Datensätzen, und getestet wurden die Pakete bisher nur unter macOS 27, nicht auf einem iPhone. Bei den AMI-Besprechungsaufnahmen lag die Wortfehlerrate jeder Engine über 23%, überlappende Gespräche aus dem echten Leben bleiben also mit jeder Engine schwierig. Qwen3-ASR ist deutlich langsamer als Parakeet und braucht einige Gigabyte Speicher, und das Core-AI-Backend für Entscheidungen lässt sich wegen eines Abhängigkeitskonflikts noch nicht mit dem Sprachpaket kombinieren.

Unser Fazit: Für Mac- und iOS-Entwickler ist das ein günstiger Weg zu besserer Transkription auf dem Gerät, ohne Code für eine neue API umzuschreiben. Getestet wurde bisher nur unter macOS, und alle Engines lagen bei Besprechungsaufnahmen über 23% Fehler, erwarte also keine Lösung für unordentliches Audio aus dem Alltag.

Unsere Testberichte:Parakeet TDT 0.6B v3Qwen3-ASR (1.7B and 0.6B)Clef

Quelle: Hugging Face

Weitere Artikel