Die meisten KI-Stimmen leben in der Cloud: Jeder Satz reist zu einem Server und zurück, was Geld kostet, Verzögerung bringt und den eigenen Text woandershin schickt. Gradiums Phonon geht den umgekehrten Weg. Seine Text-to-Speech-Modelle sind klein genug, um auf einem Handy, einem Laptop, einem Einplatinenrechner oder in einem Browser-Tab ganz ohne Netz zu laufen, und zwei Wochen nach dem Start hat das Unternehmen dargelegt, wie sie sich geschlagen haben.
Es gibt zwei Größen mit etwa 65 MB und 75 MB. Phonon 31m spricht Englisch und steht unter Apache 2.0, darf also kostenlos in kommerzielle Produkte. Phonon 40m ergänzt Französisch, Deutsch, Spanisch und Portugiesisch unter der nichtkommerziellen Lizenz CC BY-NC; die kommerzielle Nutzung dieses Modells wird nach Nutzerzahl abgerechnet, nicht nach erzeugter Sprachmenge. Es gibt mehr als 100 eingebaute Stimmen, eigene Stimmen lassen sich in Gradium Studio klonen oder entwerfen, und die Modelle sollen Telefonnummern, Daten und Codes bewältigen, an denen viele Systeme scheitern. Laut Gradium wurde Phonon in den ersten zwei Wochen mehr als 200.000-mal heruntergeladen.
Das Benchmark-Ergebnis ist der eigentliche Nachrichtenwert. Auf Hugging Faces neuem Open TTS Leaderboard, das Modelle in 23 Sprachen nach Verständlichkeit, Tempo und Natürlichkeit bewertet, liegt Phonon bei der Verständlichkeit auf Deutsch und Spanisch vorn und in jeder von Gradium ausgewerteten Sprache unter den ersten drei, neben Modellen, die bis zu 100-mal größer sind. Zudem führt es den CPU-Streaming-Benchmark bei der Zeit bis zum ersten Ton an, also der Verzögerung, bis eine Stimme zu sprechen beginnt. Gradium hat ein eigenes Inferenz-Framework namens ptts mit mehr als 10 Backends für CPUs, GPUs und Handychips gebaut, und das Modell ist ab Version 5.21 in Hugging Face Transformers enthalten.
Unser Test von Gradium Phonon sah das englische 31M-Modell bereits als die winzige Stimme, die man heute in eine App packen sollte, kleiner als Kokoro und von Hörern bevorzugt. Sprache auf dem Gerät ist wichtig für Apps, die keinen Text in die Cloud schicken dürfen, etwa in Gesundheit, Bildung oder bei Offline-Werkzeugen, und für alle, die eine Stimme wollen, die ohne Empfang weiterläuft; eine Demo zeigt eine Apple Watch, die mit ausgeschaltetem WLAN durch das Kaffeekochen führt.
Etwas Vorsicht ist angebracht. Die Ranglistenplätze stammen aus Gradiums eigenem Bericht, und Verständlichkeit, gemessen an der Wortfehlerrate, sagt wenig darüber, wie natürlich eine Stimme über einen langen Text klingt. Die nichtkommerzielle Lizenz des mehrsprachigen Modells schließt es für viele Firmen aus, sofern sie nicht zahlen, und weitere Sprachen wie Koreanisch, Arabisch oder Japanisch gibt es nur als individuelles Training für Partner.