Qu’est-ce que Locals ?
Locals est un serveur de modèles pour Mac à puce Apple silicon, bâti sur MLX d'Apple et pensé pour les agents de code plutôt que pour la discussion. Il répond aux API OpenAI, Anthropic Messages et Ollama sur 127.0.0.1:8321, si bien qu'OpenCode, Claude Code, Cline, Aider, OpenHands et les applications écrites pour Ollama peuvent l'utiliser sans changement. Son atout principal est le traitement par lots : les requêtes de plusieurs agents sont calculées ensemble avec des noyaux GPU écrits pour de petits lots, là où mlx-lm cesse d'accélérer.
Les appels d'outils et le JSON sont produits sous une grammaire appliquée sur le GPU : un agent ne peut appeler que les outils qu'il a proposés, et les arguments respectent leur schéma. Les conversations et les longs prompts système sont mis en cache, y compris sur disque d'un redémarrage à l'autre. Des commandes comme locals code ~/my-project et locals launch claude démarrent le serveur et connectent un client en une étape, et locals run répartit une tâche entre plusieurs agents travaillant dans des copies séparées d'un projet.
Il est développé par Generated Computers, écrit en Python, publié sous Apache 2.0 et s'installe avec uv tool install locals ou un script shell. Il faut un M1 ou plus récent et macOS 14. La version 0.2.2 est sortie le 4 novembre 2026.
Locals vaut-il le coup ?
Locals vise un cas que les serveurs de modèles sur Mac gèrent mal : plusieurs agents qui interrogent en même temps. Sur un M2 Pro avec 16 Go et le Qwen3.5-4B par défaut, le projet mesure mlx-lm à 87 tokens par seconde pour huit requêtes simultanées et Locals à 271, un gain de 3,1x ; LFM2.5-2.6B et Gemma 4 E4B gagnent 2,8x. Avec huit agents, le premier mot arrive après 1,6 seconde contre 41,8 avec Ollama, et Locals a aussi battu les 2,1 secondes de llama.cpp dans le même test.
Les benchmarks précisent la puce, le modèle, les versions et la commande, et le README consacre une section aux cas où il n'est pas plus rapide. Une requête seule, sans rien à réutiliser, tourne à la vitesse de mlx-lm, 64 contre 61 tokens par seconde. Les longs prompts sont limités par la puissance de calcul du GPU : huit prompts de 8 000 tokens à la fois donnent 57 tokens par seconde. Les formats autres que le 4 bits standard par groupes de 64 ne gagnent rien, et sur le M5 Pro le gain tombe à environ 1,5x, car MLX exploite déjà ses accélérateurs neuronaux. Les puces M1, M3 et M4 sont absentes des tableaux principaux.
Les fonctions pour agents comptent autant que la vitesse. Les appels d'outils contraints par une grammaire éliminent une panne courante des petits modèles locaux, les appels mal formés qui bloquent un agent. Grâce aux prompts en cache, le tour suivant d'une conversation de 138 000 tokens démarre après 2,4 secondes. Le modèle par défaut gère environ 178 000 tokens sur un Mac de 16 Go, même si la première lecture de 170 000 tokens prend environ 12 minutes.
Côté sécurité, le serveur n'a pas d'authentification et compte sur l'écoute en 127.0.0.1, plus des contrôles de Host et d'Origin pour qu'une page web ouverte dans votre navigateur ne puisse pas s'en servir. Sa documentation signale que le contrôle de Host se désactive si vous écoutez sur une autre adresse. locals code exécute OpenCode directement dans votre projet, avec les droits habituels d'OpenCode, et fait de Locals le modèle par défaut d'OpenCode jusqu'à ce que vous lanciez locals disconnect opencode. Les travaux d'équipe avec locals run restent confinés à des copies du projet.
Face à Ollama ou LM Studio, Locals renonce aux fichiers GGUF ainsi qu'à Windows et Linux en échange de vitesse sous charge simultanée sur Mac. Pour une personne qui discute avec un modèle, l'écart est faible. Pour un développeur qui fait tourner des sous-agents ou une petite équipe d'agents sur un MacBook de 16 Go, le gain est plus grand, et le projet est jeune : trois versions depuis le 21 octobre 2026 et 649 étoiles.
Là où il fait la différence
Un développeur indépendant avec un MacBook Pro de 16 Go
Utiliser OpenCode sur le projet d'un client sans envoyer de code à une API
uv tool install locals, puis locals code ~/project ; au premier lancement, il télécharge un modèle d'environ 3 Go. Les sous-agents d'OpenCode partagent le lot, et c'est là que s'applique le gain de 3,1x ; il n'y a pas de facture au token.
Une petite équipe qui utilise déjà Open WebUI et Raycast avec Ollama
Accélérer des modèles locaux partagés sans reconfigurer chaque application
Quittez Ollama et lancez locals launch --model qwen3.5:4b ollama pour que Locals réponde sur le port d'Ollama avec ses noms de modèles. Les modèles sont retéléchargés au format MLX ; pour revenir en arrière, locals stop puis relancez Ollama.
Une développeuse de back-office qui transforme du texte désordonné en fiches
Extraire des champs structurés toujours conformes à un schéma JSON
locals generate --schema person.json renvoie un JSON qui suit le schéma champ par champ, et la même chose fonctionne via l'API OpenAI avec response_format. Traitez de nombreux documents à la fois pour profiter du gain de débit.
Avant de vous engager
- Mise en route
- Script d'installation via curl, ou uv tool install --python 3.12 locals, puis locals code ~/my-project. Il faut un M1 ou plus récent, macOS 14 et idéalement 16 Go ; sur les puces autres que M2 Pro et M2 Max, il s'ajuste seul en 10 à 20 minutes d'inactivité.
- Intégrations
- /v1 compatible OpenAI sur 127.0.0.1:8321, Anthropic Messages pour Claude Code et l'API Ollama ; lanceurs pour OpenCode, Claude Code, Cline, Kilo Code, OpenHands, Aider, Hermes Agent et OpenClaw ; réglages pour Roo Code, Continue, Zed et JetBrains.
- Données et confidentialité
- Fonctionne en local ; les modèles viennent de Hugging Face. Pas d'authentification : écoute sur 127.0.0.1 par défaut, rejette les requêtes dont le Host ou l'Origin n'est pas local, et coupe le contrôle de Host quand il écoute sur une autre adresse. Garde conversations et prompts système en cache, y compris sur disque.
- Coût à grande échelle
- Le logiciel est gratuit ; le coût, c'est le Mac. Sur un M2 Max de 96 Go, huit requêtes vers un modèle de 27B atteignent 78 tokens par seconde contre 25 avec mlx-lm ; Flint de Recursive (40B, 2,5B actifs) demande 24 Go ou plus.
- Limites
- Un modèle à la fois ; modèles MLX uniquement ; ni Windows ni Linux. Les gains viennent de la simultanéité et du cache : les requêtes isolées sans cache et les longs prompts tournent à peu près à la vitesse de mlx-lm.
Les points forts
- 3,1x le débit de mlx-lm avec huit requêtes simultanées sur un M2 Pro
- Appels d'outils et JSON contraints au schéma, donc toujours analysables
- API OpenAI, Anthropic et Ollama ; une commande par outil d'agent
- Benchmarks publiés avec la liste des cas où il n'est pas plus rapide
Les points faibles
- Apple silicon et macOS 14 uniquement ; modèles MLX, pas GGUF
- Peu de gain pour une requête seule ou de longs prompts
- Pas d'authentification ; la sécurité repose sur l'écoute en loopback
- Seuls M2 Pro, M2 Max et M5 Pro bien mesurés ; un mois d'existence
Idéal pour
Développeurs sur Mac qui font tourner plusieurs agents ou sous-agents de code sur un modèle local et veulent qu'ils finissent plus vite.
Alternatives à Locals
Locals : questions fréquentes
- Locals vaut-il le coup ?
- Le serveur de modèles pour Mac à retenir quand plusieurs agents se partagent un petit modèle, avec des gains mesurés et une liste d'une franchise rare sur les cas où il n'est pas plus rapide. Nous lui donnons 3.9 sur 5.
- Combien coûte Locals ?
- Gratuit et open source (Apache 2.0). Chaque modèle garde sa propre licence.
- Quels sont les inconvénients de Locals ?
- Apple silicon et macOS 14 uniquement ; modèles MLX, pas GGUF; peu de gain pour une requête seule ou de longs prompts; pas d'authentification ; la sécurité repose sur l'écoute en loopback; seuls M2 Pro, M2 Max et M5 Pro bien mesurés ; un mois d'existence.
- À qui s’adresse Locals ?
- Développeurs sur Mac qui font tourner plusieurs agents ou sous-agents de code sur un modèle local et veulent qu'ils finissent plus vite.
- Combien coûte Locals pour une équipe ou en production ?
- Le logiciel est gratuit ; le coût, c'est le Mac. Sur un M2 Max de 96 Go, huit requêtes vers un modèle de 27B atteignent 78 tokens par seconde contre 25 avec mlx-lm ; Flint de Recursive (40B, 2,5B actifs) demande 24 Go ou plus.
- Locals est-il sûr pour les données de l’entreprise ?
- Fonctionne en local ; les modèles viennent de Hugging Face. Pas d'authentification : écoute sur 127.0.0.1 par défaut, rejette les requêtes dont le Host ou l'Origin n'est pas local, et coupe le contrôle de Host quand il écoute sur une autre adresse. Garde conversations et prompts système en cache, y compris sur disque.
- Quelles sont les meilleures alternatives à Locals ?
- Les alternatives les plus proches que nous avons testées sont Ollama, MLX et llama.cpp.
Réponses vérifiées le 13 nov. 2026.