Qu’est-ce que BitNet b1.58 2B4T ?
BitNet b1.58 2B4T est un modèle de recherche de Microsoft Research, publié en avril 2025. Il compte environ 2 milliards de paramètres, a été entraîné sur 4 000 milliards de tokens, et chaque poids prend l'une de trois valeurs : -1, 0 ou +1, soit environ 1,58 bit chacun. Les activations sont sur 8 bits. Contrairement à la plupart des petits modèles quantifiés, il a été entraîné ainsi dès le départ au lieu d'être compressé après l'entraînement.
L'objectif est l'efficacité. Le tableau de Microsoft chiffre sa mémoire hors embeddings à 0,4 Go, contre 1,4 Go pour Gemma 3 1B et 2,6 Go pour Qwen2.5 1.5B, avec 29 ms par token en décodage sur CPU et environ 0,028 joule par token. Il lit et écrit du texte en anglais, avec un contexte de 4 096 tokens et le tokenizer de Llama 3.
Il est sous licence MIT. Ces gains exigent le runtime bitnet.cpp de Microsoft ; dans transformers standard, il ne va pas plus vite qu'un modèle en pleine précision. Le dépôt bitnet.cpp compte environ 41 500 étoiles sur GitHub et a été mis à jour pour la dernière fois en juillet 2026 ; les poids ont été téléchargés environ 11 000 fois sur Hugging Face au cours des 30 derniers jours.
BitNet b1.58 2B4T vaut-il le coup ?
Le résultat de BitNet : des poids ternaires entraînés dès le départ tiennent la route. Sur l'ensemble de benchmarks de Microsoft, il obtient en moyenne 54,19, contre 55,23 pour Qwen2.5 1.5B, 48,70 pour SmolLM2 1.7B, 44,90 pour Llama 3.2 1B et 43,74 pour Gemma 3 1B. Il mène ce groupe en mathématiques GSM8K à 58,38 et sur ARC-Challenge à 49,91, avec 0,4 Go de mémoire hors embeddings contre 2,6 Go pour Qwen.
Il est plus faible là où comptent les connaissances et le code. Qwen2.5 1.5B le bat sur MMLU (60,25 contre 53,17), HumanEval+ (50,60 contre 38,40) et MATH-500 (53,00 contre 43,40), et Gemma 3 1B devance sur le suivi d'instructions. Ces rivaux datent eux-mêmes de 2024 et du début de 2025 : le tableau dit donc peu de choses de sa position face aux petits modèles sortis depuis.
Le hic pratique tient au runtime et au contexte. Les gains de vitesse et d'énergie n'apparaissent que dans bitnet.cpp ; Microsoft prévient que dans transformers il tourne aussi lentement qu'un modèle normal, voire plus. Le contexte de 4 096 tokens est court pour un historique de chat ou des documents, la prise en charge des langues autres que l'anglais est limitée, et la fiche de Microsoft elle-même déconseille un usage commercial ou réel sans tests supplémentaires.
Sa valeur est celle d'un point de référence. C'est le modèle à étudier si vous décidez s'il vaut la peine de développer pour l'inférence à 1 bit sur CPU, et Microsoft n'a pas encore publié de modèle de langage BitNet plus grand ou plus récent pour le remplacer.
Là où il fait la différence
Un ingénieur logiciel embarqué chez un fabricant de capteurs industriels
Tester si un modèle de langage peut tourner sur une passerelle sans GPU et avec peu de RAM
Compilez bitnet.cpp et exécutez le GGUF sur le CPU cible. Microsoft a mesuré 29 ms par token et 0,4 Go de mémoire hors embeddings ; vérifiez que le contexte de 4 096 tokens suffit à vos prompts.
Un doctorant dans une équipe d'apprentissage automatique efficace
Affiner un modèle ternaire pour une tâche précise et le comparer à une base quantifiée
Partez des poids maîtres BF16, que Microsoft publie pour l'entraînement, sous licence MIT. Les 4 000 milliards de tokens d'entraînement et la recette publiée offrent une base propre face à la quantification après entraînement.
Avant de vous engager
- Mise en route
- Clonez et compilez microsoft/BitNet (bitnet.cpp), téléchargez le GGUF et lancez-le en ligne de commande. La voie transformers nécessite un fork précis et n'apporte aucun gain de vitesse.
- Intégrations
- bitnet.cpp pour l'inférence sur CPU, un fork de transformers pour les expériences, et des poids BF16 pour l'entraînement ou le fine-tuning.
- Données et confidentialité
- Fonctionne entièrement hors ligne sur votre propre CPU. La licence MIT autorise l'usage commercial, même si Microsoft recommande d'abord des tests supplémentaires.
- Coût à grande échelle
- Les poids sont gratuits et tournent sur des CPU ordinaires ; Microsoft estime 0,028 J par token contre 0,186 J pour Gemma 3 1B.
- Limites
- Contexte de 4 096 tokens, prise en charge limitée hors anglais et taux d'erreur élevé sur les questions électorales, selon la fiche de Microsoft.
Les points forts
- 0,4 Go de mémoire hors embeddings, environ un sixième de Qwen2.5 1.5B
- 29 ms par token sur CPU dans le test de Microsoft
- Proche de Qwen2.5 1.5B en moyenne (54,19 contre 55,23)
- Licence MIT, avec poids maîtres BF16 pour le fine-tuning
Les points faibles
- Les gains exigent bitnet.cpp ; transformers n'est pas plus rapide
- Contexte de 4 096 tokens
- Microsoft déconseille l'usage commercial sans tests
- Comparé seulement à des modèles de 2024 et du début de 2025
Idéal pour
Les chercheurs et ingénieurs en systèmes embarqués qui évaluent si les modèles natifs à 1 bit sont viables sur du matériel sans GPU.
Alternatives à BitNet b1.58 2B4T
BitNet b1.58 2B4T : questions fréquentes
- BitNet b1.58 2B4T vaut-il le coup ?
- BitNet b1.58 2B4T prouve qu'un modèle natif à 1 bit peut égaler des rivaux 2B en pleine précision avec une fraction de la mémoire, mais c'est un objet de recherche, pas un modèle à mettre en production. Nous lui donnons 3.5 sur 5.
- Combien coûte BitNet b1.58 2B4T ?
- Poids et runtime bitnet.cpp gratuits sous licence MIT. Pas d'API hébergée.
- Quels sont les inconvénients de BitNet b1.58 2B4T ?
- Les gains exigent bitnet.cpp ; transformers n'est pas plus rapide; contexte de 4 096 tokens; microsoft déconseille l'usage commercial sans tests; comparé seulement à des modèles de 2024 et du début de 2025.
- À qui s’adresse BitNet b1.58 2B4T ?
- Les chercheurs et ingénieurs en systèmes embarqués qui évaluent si les modèles natifs à 1 bit sont viables sur du matériel sans GPU.
- Combien coûte BitNet b1.58 2B4T pour une équipe ou en production ?
- Les poids sont gratuits et tournent sur des CPU ordinaires ; Microsoft estime 0,028 J par token contre 0,186 J pour Gemma 3 1B.
- BitNet b1.58 2B4T est-il sûr pour les données de l’entreprise ?
- Fonctionne entièrement hors ligne sur votre propre CPU. La licence MIT autorise l'usage commercial, même si Microsoft recommande d'abord des tests supplémentaires.
- Quelles sont les meilleures alternatives à BitNet b1.58 2B4T ?
- Les alternatives les plus proches que nous avons testées sont Ternary Bonsai 2 9B, SmolLM3-3B, MiniCPM5-2B et LFM3.
Réponses vérifiées le 7 nov. 2026.