Qu’est-ce que Strata ?
Strata est un moteur d'inférence local bâti autour de quelques grands modèles à mélange d'experts : Qwen3.8-Flash-Next (125B de paramètres avec 6B actifs, plus un embedding n-gramme de 51B), Qwen3.6-35B-A3B et DeepSeek V4.1-Flash. Au lieu d'avoir besoin de tout le modèle en mémoire graphique, il garde les experts les plus utilisés sur le GPU, tient chaque expert en RAM système où le CPU calcule ceux qui manquent au GPU, et lit la table n-gramme de 28,8 Go du modèle depuis le SSD quelques lignes par token. La propre couche de prédiction multi-tokens du modèle brouillonne les tokens à l'avance.
Il se livre comme appli desktop pour Windows, Linux et macOS et comme outil de terminal (`strata launch`), sert des API compatibles OpenAI et Anthropic sur localhost, et inclut un agent de code et l'entrée d'images. Le matériel pris en charge va des NVIDIA RTX séries 20 à 50 et cartes AMD Radeon récentes à Intel Arc sur Linux, Apple silicon, Ryzen AI Max et, depuis 0.2.7.1, le NVIDIA DGX Spark.
Le dépôt a été créé le 24 septembre 2026, est sous licence MIT, se construit sur des parties du ggml de llama.cpp, et est presque entièrement le travail d'un seul développeur, Niko1221, avec 3 594 commits contre 29 pour le contributeur suivant.
Strata vaut-il le coup ?
Strata rend un modèle ouvert de taille de pointe pratique sur un PC de jeu, mais « n'importe quel matériel grand public » survend. Les packs ISTA-DASLab de Qwen3.8-Flash-Next ont besoin de 37,6 Go (Q2_0) à 54,8 Go (IQ3_S) de RAM et VRAM combinées, et la documentation dit que la RAM doit couvrir les experts plus environ 10 Go, si bien qu'une machine de 64 Go est le plancher réaliste. Sur cette machine, les chiffres sont frappants : les propres mesures du projet sur un RTX 5070 12 Go avec un Ryzen 5 7600 montrent 93 tokens par seconde de sortie à 4K de contexte avec Q2_0 et 53 avec l'IQ3_S de meilleure qualité.
Ces chiffres sont auto-rapportés, mais ils sont exceptionnellement bien documentés, et des externes ont ajouté les leurs. Un rapport communautaire sur un Radeon RX 9070 16 Go a mesuré 58,7 tokens par seconde en décodant IQ3_XXS à 4K, tenant près de 58 à 130K. Tous les rapports ne le flattent pas : l'issue #2464, encore ouverte, décrit le décodage Qwen3.6-35B-A3B sur un V100 tombant de 109 à 14,6 tokens par seconde à 114K de contexte sur la beta 0.2.0, où le rapporteur dit que llama.cpp tenait environ 90. Les longs prompts prennent aussi du temps : à 32K tokens, le premier mot arrive après environ 25 secondes.
La documentation de sécurité est meilleure que ce que la plupart des applis commerciales gèrent. Elle liste chaque connexion réseau que le code fait, indique qu'il n'y a pas de télémétrie, lie le serveur à 127.0.0.1, refuse de le partager avec d'autres appareils sans clé d'API, et vérifie les mises à jour contre un flux signé Ed25519 et les fichiers de modèles contre des hashs SHA-256 épinglés. Les lacunes sont nommées aussi : l'installeur Windows n'est pas signé, les clés des services de modèles externes se trouvent non chiffrées dans un fichier réservé à l'utilisateur, et le serveur du moteur nu n'avertit que si vous l'ouvrez au réseau sans clé.
Le vrai risque est la forme du projet. Un seul développeur a écrit presque tout en environ cinq semaines, il a 507 issues ouvertes, et les versions arrivent tous les quelques jours avec de longues listes de boutons par GPU. llama.cpp prend en charge bien plus de modèles et de matériel avec un banc de mainteneurs profond ; Colibri, en C pur, diffuse aussi les poids à mélange d'experts depuis le disque. L'avantage de Strata est la profondeur sur une poignée de modèles, ce qui signifie aussi qu'il n'est aussi utile que Qwen3.8-Flash-Next et DeepSeek V4.1-Flash le sont pour vous.
Là où il fait la différence
Un développeur avec un RTX 3060 ou 5070 et 64 Go de RAM
Faire tourner un grand modèle de code localement pour Claude Code ou OpenCode
Installez l'appli ou lancez `strata launch`, choisissez Q2_0 ou IQ2_XS, puis `strata connect` imprime les réglages pour l'agent. Le projet mesure 79 à 93 tokens par seconde sur un RTX 5070 à court contexte ; le coût est le matériel et environ 40 Go de fichiers de modèles.
Un cabinet de conseil de dix personnes qui gère du code client qui ne peut pas quitter le bureau
Donner au personnel un assistant privé partagé sur un poste de travail
Faites tourner Strata sur un PC avec une carte de 24 Go et activez Share with other devices, qui ne démarrera pas sans clé d'API et n'expose que les endpoints de chat. Les chats simultanés partagent le débit d'un GPU ; les tests DGX Spark du projet ont trouvé que plusieurs chats se partagent surtout la vitesse qu'un seul chat obtient.
Un amateur avec un DGX Spark ou une machine Ryzen AI Max de 128 Go
Essayer DeepSeek V4.1-Flash sans rack de serveurs
Choisissez l'ensemble 2.00 bpw, un téléchargement de 257 Go, et laissez environ 265 Go libres sur un disque NVMe. Le projet rapporte 19 à 21 tokens par seconde sur du code sur Strix Halo ; sur les cartes NVIDIA de 12 Go c'est 4 à 11, car l'essentiel de chaque token attend sur le SSD.
Avant de vous engager
- Mise en route
- Installeurs desktop pour Windows, Linux et macOS depuis GitHub Releases, ou un script shell ou PowerShell en une ligne suivi de `strata launch`. Le téléchargement du modèle (environ 37 à 55 Go pour Qwen3.8-Flash-Next) prend l'essentiel du temps jusqu'à une première réponse.
- Intégrations
- API compatibles OpenAI et Anthropic sur localhost ; `strata connect` imprime la configuration pour Claude Code, Codex CLI, OpenCode, Hermes Agent, OpenClaw et d'autres. Builds CUDA, HIP, SYCL et Metal, plus installations Docker et depuis les sources.
- Données et confidentialité
- Pas de télémétrie, selon la page de sécurité, qui liste chaque connexion que le code fait. Le serveur se lie à 127.0.0.1 ; le partage a besoin d'une clé d'API. Les mises à jour sont signées Ed25519 et les fichiers de modèles vérifiés contre des hashs SHA-256 épinglés ; les clés des services externes sont stockées non chiffrées. Strata est MIT, et Qwen3.8-Flash-Next est sous la Qwen Community License 1.0.
- Coût à grande échelle
- Pas d'édition payante ; le projet prend des dons. Le coût est un PC avec une carte graphique de 12 Go ou plus et environ 64 Go de RAM pour Qwen3.8-Flash-Next, plus environ 265 Go d'espace NVMe libre pour DeepSeek V4.1-Flash.
- Limites
- 507 issues ouvertes et des versions tous les quelques jours. Quelques familles de modèles seulement ; DeepSeek tourne à 8K de contexte ; le décodage à long contexte sur les GPU plus anciens a des régressions ouvertes (issue #2464) ; les vitesses varient entre les exécutions parce que les experts en cache changent.
Les points forts
- Fait tourner Qwen3.8-Flash-Next sur un GPU de 12 Go avec 64 Go de RAM
- Rapports de vitesse détaillés et reproductibles de l'auteur et de la communauté
- Pas de télémétrie, localhost par défaut, mises à jour signées et hashs de modèles épinglés
- API compatibles OpenAI et Anthropic pour Claude Code, Codex et OpenCode
Les points faibles
- A besoin d'environ 40 à 55 Go de RAM plus VRAM, malgré l'argumentaire n'importe quel matériel
- Presque entièrement un seul développeur ; 507 issues ouvertes
- Ne prend en charge que quelques familles de modèles
- L'installeur Windows n'est pas signé
Idéal pour
Les propriétaires d'une carte graphique de 12 à 24 Go et de 64 Go ou plus de RAM qui veulent un grand modèle ouvert pour les agents de code sur leur propre machine.
Alternatives à Strata
Strata : questions fréquentes
- Strata vaut-il le coup ?
- Une manière vraiment astucieuse de faire tourner un modèle de 125B de paramètres sur une carte graphique de 12 Go, tant que vous avez 64 Go de RAM et pouvez vivre avec un projet d'une seule personne qui change chaque semaine. Nous lui donnons 4.0 sur 5.
- Combien coûte Strata ?
- Gratuit et open source sous la licence MIT ; financé par des dons. Les fichiers de modèles portent leurs propres licences (Qwen3.8-Flash-Next utilise la Qwen Community License 1.0).
- Quels sont les inconvénients de Strata ?
- A besoin d'environ 40 à 55 Go de RAM plus VRAM, malgré l'argumentaire n'importe quel matériel; presque entièrement un seul développeur ; 507 issues ouvertes; ne prend en charge que quelques familles de modèles; l'installeur Windows n'est pas signé.
- À qui s’adresse Strata ?
- Les propriétaires d'une carte graphique de 12 à 24 Go et de 64 Go ou plus de RAM qui veulent un grand modèle ouvert pour les agents de code sur leur propre machine.
- Combien coûte Strata pour une équipe ou en production ?
- Pas d'édition payante ; le projet prend des dons. Le coût est un PC avec une carte graphique de 12 Go ou plus et environ 64 Go de RAM pour Qwen3.8-Flash-Next, plus environ 265 Go d'espace NVMe libre pour DeepSeek V4.1-Flash.
- Strata est-il sûr pour les données de l’entreprise ?
- Pas de télémétrie, selon la page de sécurité, qui liste chaque connexion que le code fait. Le serveur se lie à 127.0.0.1 ; le partage a besoin d'une clé d'API. Les mises à jour sont signées Ed25519 et les fichiers de modèles vérifiés contre des hashs SHA-256 épinglés ; les clés des services externes sont stockées non chiffrées. Strata est MIT, et Qwen3.8-Flash-Next est sous la Qwen Community License 1.0.
- Quelles sont les meilleures alternatives à Strata ?
- Les alternatives les plus proches que nous avons testées sont llama.cpp, colibri et Ollama.
Réponses vérifiées le 28 oct. 2026.