Faire tourner un modèle grand et compétent sur son propre ordinateur portable signifiait jusqu'ici un petit modèle ou une machine très coûteuse. Edge0, dont nous avons évalué le modèle 35B pour téléphone, annonce désormais un modèle de 145 milliards de paramètres qui tourne sur un portable bien équipé avec un pic mémoire mesuré de 29GB, poids et code d'inférence publiés en accès libre. Si les chiffres tiennent, des agents de programmation locaux sérieux deviennent possibles sur du matériel que beaucoup de développeurs possèdent déjà.
La conception explique ce chiffre de mémoire. Edge0-145B est un modèle à mélange d'experts dans lequel chaque groupe de 64 experts partage deux grandes matrices, chaque expert ne conservant qu'un petit ensemble de paramètres propres ; environ 10B paramètres sont actifs à chaque étape. Le moteur répartit le modèle sur trois niveaux : les experts les plus utilisés restent en mémoire GPU, une bibliothèque d'experts d'environ 40GB réside en mémoire système, et environ 48GB de données de vocabulaire restent sur le SSD et sont lus à la demande. Le CPU et le GPU travaillent en parallèle, et le décodage spéculatif vérifie plusieurs jetons candidats à la fois. Edge0 annonce plus de 80 jetons par seconde.
Les résultats annoncés sont élevés. Edge0 revendique 64,6 sur DeepSWE 1.1, 86,52 sur Terminal-Bench 2.1, 90,4 sur GPQA-Diamond et 80,6 sur IFBench, et une moyenne de 72,8 sur six bancs d'essai contre 71,7 pour Qwen3.8-Flash-Next, dont il estime le déploiement standard en 4 bits à 70GB. Edge0 se situerait ainsi à environ 40% de cette mémoire, ce qui fait d'un portable de 48GB le minimum pratique. La prise en charge dès le lancement couvre macOS, Windows et Linux, y compris les puces Apple de la série M et les cartes NVIDIA RTX.
Pour qui fait tourner des modèles locaux avec llama.cpp, Ollama ou LM Studio, l'intérêt tient davantage à la conception en flux qu'au nombre de paramètres. Garder la plupart des experts hors du GPU et lire le vocabulaire sur le SSD est un autre compromis que quantifier plus fort, et suppose un stockage rapide. Edge0 indique aussi publier toute la pile afin que les résultats puissent être reproduits.
Les doutes sont sérieux. Les résultats de Qwen, DeepSeek et Claude proviennent des évaluations internes d'Edge0, les chiffres de mémoire des concurrents sont des estimations non encore mesurées, et le rapport technique détaillant la configuration n'est pas encore sorti. Les mesures de vitesse et de mémoire viennent des propres tests d'Edge0 sur un portable non précisé. Notre évaluation de sa version 35B relevait une ingénierie soignée mais des chiffres de vitesse presque tous fournis par ses concepteurs, et la même prudence s'impose ici jusqu'à des essais indépendants.