Qu’est-ce que SmolLM3-3B ?
SmolLM3-3B est un petit modèle de langage de Hugging Face, sorti le 8 juillet 2025. Il a environ 3,1 milliards de paramètres et a été entraîné sur 11,2 billions de tokens en utilisant 384 GPU H100 sur 24 jours. Il a été entraîné à un contexte de 64K tokens et s'étend à 128K avec YaRN, une méthode standard d'extension de contexte ; la config livrée est réglée à 65 536 tokens, si bien que la fenêtre plus longue a besoin d'un changement de config.
Il a deux modes : la réflexion étendue, activée par défaut, et les réponses directes, commutées avec /think et /no_think. Il prend en charge l'appel d'outils en style XML ou appel Python et six langues : anglais, français, espagnol, allemand, italien et portugais.
Les poids sont sous Apache 2.0. Hugging Face a aussi publié le mélange de données, les configs d'entraînement, les checkpoints intermédiaires et le code d'évaluation, si bien que les chercheurs peuvent reproduire ou modifier l'entraînement. Les poids ont été mis à jour pour la dernière fois le 10 septembre 2025, et Hugging Face n'a annoncé aucun SmolLM4 ; son dépôt GitHub smollm reçoit encore des commits de maintenance (le dernier le 3 octobre 2026) mais aucun nouveau modèle.
SmolLM3-3B vaut-il le coup ?
La vraie valeur de SmolLM3 est l'ouverture, pas la capacité. Peu de modèles publient la recette complète : mélange de données, configs, checkpoints intermédiaires et code d'évaluation. Quiconque étudie ou enseigne comment les modèles de langage sont entraînés, ou veut poursuivre le pré-entraînement à partir d'un état connu, obtient ici un point de départ mieux documenté que depuis tout autre modèle 3B, et les 731 000 téléchargements Hugging Face le mois dernier suggèrent que beaucoup le font.
Comme modèle, il était compétitif au lancement et ne l'est plus. Les propres tableaux de Hugging Face le montrent battant Llama-3.2-3B et Qwen2.5-3B mais derrière Qwen3-4B avec le thinking activé : 36,7 contre 58,8 sur AIME 2025, et 41,7 contre 55,3 sur GPQA Diamond. Le thinking compte beaucoup (AIME passe de 9,3 à 36,7), et l'appel d'outils tient à 92,3 sur BFCL sans lui.
Le champ de 2026 l'a laissé derrière. IBM rapporte 78,33 sur AIME 2025 pour Granite 4.2 3B dans sa propre configuration, plus du double du meilleur de SmolLM3, et les Gemma 4 E2B et E4B de Google lisent aussi les images et l'audio. SmolLM3 est uniquement textuel, couvre six langues européennes, et n'a pas été mis à jour depuis septembre 2025.
Sa taille est le seul avantage pratique qui n'a pas vieilli. À environ 6GB en BF16, il tourne sur un portable, et Hugging Face livre des versions llama.cpp, MLX, ONNX, MLC et ExecuTorch, si bien que les mêmes poids qu'un chercheur étudie peuvent être mis sur un téléphone. C'est la niche : des expériences où savoir exactement ce qui est entré dans le modèle vaut plus que les quelque 40 points AIME que Granite 4.2 3B revendique sur lui.
Là où il fait la différence
Un enseignant universitaire qui donne un cours de master sur l'entraînement des LLM
Montrer aux étudiants chaque étape d'une vraie exécution de pré-entraînement
Utiliser le mélange de données, les configs et les checkpoints intermédiaires publiés pour comparer le modèle à différents points de l'entraînement, puis faire affiner aux étudiants à partir d'un checkpoint sur un seul GPU. Gratuit sous Apache 2.0 ; aucun autre modèle 3B ne documente son exécution aussi complètement.
Un chercheur ML qui étudie les mélanges de données
Mener des expériences contrôlées de pré-entraînement continu ou d'ablation à partir d'une base connue
Partir de SmolLM3-3B-Base ou d'un checkpoint intermédiaire et changer une variable dans la recette publiée. À environ 3B de paramètres, les expériences tiennent sur un seul nœud ; le coût de reproduire l'exécution originale de 24 jours sur 384 GPU est bien plus élevé.
Un ingénieur mobile qui prototype un assistant hors ligne
Livrer un modèle sur l'appareil entièrement ouvert en anglais et cinq langues européennes
Faire tourner la version ONNX ou ExecuTorch en local, avec /no_think pour des réponses rapides et les appels d'outils pour les actions de l'appli. C'est bon marché et permissif, mais Gemma 4 E2B ou Granite 4.2 3B répondront nettement mieux aux questions plus difficiles.
Avant de vous engager
- Mise en route
- A besoin de Transformers 4.53 ou ultérieur, ou de serveurs vLLM et SGLang avec le parseur d'outils Hermes ; la fenêtre de 128K nécessite de modifier max_position_embeddings et rope_scaling dans la config.
- Intégrations
- Transformers, vLLM, SGLang, llama.cpp, MLX, ONNX, MLC et ExecuTorch, avec des checkpoints quantifiés dans la collection de Hugging Face. Pas d'endpoint hébergé sur les Inference Providers de Hugging Face.
- Données et confidentialité
- Apache 2.0 sans addendum d'usage acceptable ; usage commercial et redistribution autorisés. Auto-hébergé uniquement, si bien que les données restent sur votre appareil ou serveur. Le mélange de données d'entraînement est public, ce qui rend possibles les vérifications de provenance.
- Coût à grande échelle
- Environ 3,1B de paramètres, soit environ 6GB en BF16, donc un seul GPU grand public, un portable Apple ou une version téléphone 4 bits. Sans API payante listée, le coût à grande échelle est votre propre matériel.
- Limites
- Contexte natif de 64K, 128K avec YaRN ; six langues ; texte uniquement ; Hugging Face prévient que les sorties peuvent être inexactes ou biaisées ; raisonnement plus faible que les modèles 3B à 4B de 2026.
Les points forts
- Apache 2.0 avec le mélange de données, les configs et les checkpoints intermédiaires publiés
- Thinking commutable avec /think et /no_think
- Environ 6GB en BF16, avec des versions llama.cpp, MLX, ONNX et ExecuTorch
- 92,3 sur l'appel d'outils BFCL sans thinking, selon Hugging Face
Les points faibles
- 36,7 sur AIME 2025 contre les 78,33 autodéclarés de Granite 4.2 3B
- Seulement six langues européennes
- Texte uniquement
- Aucune mise à jour depuis septembre 2025 et aucun successeur annoncé
Idéal pour
Les chercheurs et enseignants qui veulent un petit modèle entièrement reproductible à étudier ou affiner.
Alternatives à SmolLM3-3B
SmolLM3-3B : questions fréquentes
- SmolLM3-3B vaut-il le coup ?
- SmolLM3 est une exécution d'entraînement à parois de verre plus qu'un produit : inégalé pour apprendre comment un modèle 3B est fait, surclassé pour en livrer un. Nous lui donnons 3.5 sur 5.
- Combien coûte SmolLM3-3B ?
- Poids gratuits sous Apache 2.0, avec la recette de données d'entraînement et les checkpoints publiés. Pas d'API hébergée sur les Inference Providers propres de Hugging Face.
- Quels sont les inconvénients de SmolLM3-3B ?
- 36,7 sur AIME 2025 contre les 78,33 autodéclarés de Granite 4.2 3B; seulement six langues européennes; texte uniquement; aucune mise à jour depuis septembre 2025 et aucun successeur annoncé.
- À qui s’adresse SmolLM3-3B ?
- Les chercheurs et enseignants qui veulent un petit modèle entièrement reproductible à étudier ou affiner.
- Combien coûte SmolLM3-3B pour une équipe ou en production ?
- Environ 3,1B de paramètres, soit environ 6GB en BF16, donc un seul GPU grand public, un portable Apple ou une version téléphone 4 bits. Sans API payante listée, le coût à grande échelle est votre propre matériel.
- SmolLM3-3B est-il sûr pour les données de l’entreprise ?
- Apache 2.0 sans addendum d'usage acceptable ; usage commercial et redistribution autorisés. Auto-hébergé uniquement, si bien que les données restent sur votre appareil ou serveur. Le mélange de données d'entraînement est public, ce qui rend possibles les vérifications de provenance.
- Quelles sont les meilleures alternatives à SmolLM3-3B ?
- Les alternatives les plus proches que nous avons testées sont Granite 4.2, Gemma 4 et Phi-4-multimodal.
Réponses vérifiées le 26 oct. 2026.