La plupart des voix d'IA vivent dans le cloud : chaque phrase fait l'aller-retour vers un serveur, ce qui coûte de l'argent, ajoute du délai et envoie votre texte ailleurs. Phonon, de Gradium, prend le chemin inverse. Ses modèles de synthèse vocale sont assez petits pour tourner sur un téléphone, un portable, un ordinateur monocarte ou un onglet de navigateur sans aucune connexion, et deux semaines après la sortie, l'entreprise a fait le point sur leurs résultats.
Il existe deux tailles, d'environ 65 MB et 75 MB. Phonon 31m parle anglais et est publié sous licence Apache 2.0, donc utilisable gratuitement dans des produits commerciaux. Phonon 40m ajoute le français, l'allemand, l'espagnol et le portugais sous la licence non commerciale CC BY-NC ; l'usage commercial de ce modèle est facturé au nombre d'utilisateurs plutôt qu'au volume de parole générée. Il y a plus de 100 voix intégrées, on peut cloner ou concevoir des voix dans Gradium Studio, et les modèles sont censés gérer numéros de téléphone, dates et codes sur lesquels trébuchent beaucoup de systèmes. Selon Gradium, Phonon a été téléchargé plus de 200 000 fois au cours de ses deux premières semaines.
C'est le résultat au benchmark qui fait l'actualité. Sur le nouvel Open TTS Leaderboard de Hugging Face, qui note des modèles dans 23 langues selon l'intelligibilité, la vitesse et le naturel, Phonon arrive premier en intelligibilité en allemand et en espagnol et dans les trois premiers pour chaque langue évaluée par Gradium, aux côtés de modèles jusqu'à 100 fois plus gros. Il domine aussi le test de streaming sur CPU pour le temps jusqu'au premier son, le délai avant que la voix commence à parler. Gradium a construit son propre cadre d'inférence, ptts, avec plus de 10 back ends pour CPU, GPU et puces de téléphone, et le modèle est intégré à Hugging Face Transformers depuis la version 5.21.
Notre test de Gradium Phonon voyait déjà dans le modèle anglais de 31M la petite voix à intégrer aujourd'hui dans une appli, plus légère que Kokoro et préférée par les auditeurs. La voix sur l'appareil compte pour les applis qui ne peuvent pas envoyer de texte dans le cloud, comme en santé, en éducation ou pour les outils hors ligne, et pour qui veut une voix qui fonctionne sans réseau ; parmi les démos, une Apple Watch guide la préparation d'un café avec le wifi coupé.
Une certaine prudence s'impose. Les places au classement proviennent du texte de Gradium lui-même, et l'intelligibilité mesurée par le taux d'erreur sur les mots dit peu de chose du naturel d'une voix sur un long passage. La licence non commerciale du modèle multilingue l'écartera pour de nombreuses entreprises à moins de payer, et les langues au-delà des cinq, comme le coréen, l'arabe ou le japonais, ne sont proposées qu'en entraînement sur mesure pour des partenaires.