Si vous faites tourner un modèle sur votre propre ordinateur, il y a de bonnes chances que llama.cpp travaille en dessous, que vous l'ayez installé directement ou via une application construite dessus. Le projet vient de publier la version 1.0.0 de ses bibliothèques et s'engage sur le versionnage sémantique. Cela ressemble à de l'intendance, mais pour tous ceux qui s'appuient dessus, c'est une promesse sur le moment où les choses casseront.
Les règles sont simples et figurent dans l'annonce. Un changement incompatible de l'API publique en C, les en-têtes du dossier include, fait monter la version majeure. Les fonctions rétrocompatibles, les mises à jour de backends, la prise en charge de nouveaux modèles et les ajouts à l'API font monter la version mineure. Les corrections de bogues sans changement d'API font monter le numéro de correctif. Les mêmes règles s'appliquent à ggml, le moteur d'apprentissage automatique sous-jacent, et aux autres projets de ggml-org, et l'équipe promet d'être plus stricte pour signaler les incompatibilités d'API comme d'ABI.
La raison tient à l'échelle. En trois ans et demi d'existence, llama.cpp a accumulé une longue liste de projets dépendants, et le billet indique qu'il prend en charge plus de 150 variantes d'architecture et toutes les méthodes courantes de décodage spéculatif. La distribution s'élargit aussi : des versions sont proposées pour Docker, Debian, Homebrew, conda-forge, MacPorts, Winget et sous forme de XCFramework pour les plateformes Apple. Les tests tournent sur l'infrastructure de Hugging Face, avec des machines dédiées soutenues par NVIDIA, AMD, Qualcomm, Arm, IBM et Intel.
Pour les outils que nous évaluons, c'est discret mais important. Ollama et LM Studio s'appuient sur llama.cpp et ggml, comme beaucoup de petites applications de bureau. Jusqu'ici, suivre le projet amont obligeait à lire attentivement les journaux de modifications pour repérer un changement d'interface. Un numéro de version qui annonce les ruptures permet à ces projets de se mettre à jour plus souvent avec moins de risque, ce qui devrait faire arriver plus vite la prise en charge des nouveaux modèles chez les utilisateurs. L'équipe de Hugging Face publie aussi ses propres applications de bureau Llama pour macOS et Windows.
Les limites méritent d'être dites. Le versionnage sémantique est un engagement, pas une garantie, et il couvre l'API C, pas chaque changement de comportement en qualité ou en vitesse. Il ne dit rien des outils en ligne de commande ni des options du serveur que beaucoup utilisent directement. Un commentateur a relevé que le traitement des très longs prompts reste plus lent qu'on ne le voudrait, et la version 1.0.0 ne prétend pas y remédier.