Qu’est-ce que Needle 3 ?
Needle 3 est un tout petit modèle de Cactus Compute, une entreprise d'IA embarquée soutenue par Y Combinator, sorti en septembre 2026. Il ne converse pas. À partir des fonctions qu'expose une application, il choisit les bonnes et remplit leurs arguments ; à partir d'un schéma, il extrait des champs typés d'un texte désordonné ; et il renvoie des embeddings de phrases pour la recherche locale. Une grammaire compilée à partir de vos schémas garantit que le JSON est valide, et chaque réponse porte un score de confiance en dessous duquel l'appel n'est pas transmis.
Le modèle complet compte 121 millions de paramètres sur 20 couches, dont 70,8 millions dans une table de mémoire n-gram, compressés à environ 2 bits. Chaque profondeur de 2 à 20 couches est un modèle utilisable découpé dans les mêmes poids, si bien qu'un produit peut livrer une version de 29M à 4 couches sur une caméra et le modèle complet sur un téléphone. Cactus indique l'avoir entraîné sur 360 milliards de tokens de données structurées propriétaires.
Les poids sont sous Apache 2.0, et le fine-tuning LoRA tourne en local via le paquet Python. Le moteur d'inférence est fourni sous forme de binaires précompilés, pas de code source. La vidéo de Better Stack du 3 octobre l'a affiné pour piloter un canard robot virtuel.
Needle 3 vaut-il le coup ?
Needle 3 est le plus petit modèle que nous connaissions qui fasse des appels d'outils fiables pour les commandes de téléphone, et il est plus étroit que son marketing. Sur Mobile Actions, qui associe des demandes faites au téléphone à des intents Android, le modèle de 121M obtient 86,0 % de correspondance exacte, contre 82,4 % pour LFM2.5 1.2B et 88,4 % pour DeepSeek V4 Flash dans le cloud. Sur DroidCall, il devance tous les petits modèles à 47,0 %. Ce sont ces résultats qui fondent l'affirmation selon laquelle il bat des modèles dix fois plus gros.
Cactus affirme aussi qu'il égale sur l'extraction des modèles deux à trois fois plus gros, et son propre graphique dit le contraire. Sur DSTC8, il obtient 40,7 de F1 contre 53,0 pour le LFM2.5 de 230M, moins de deux fois sa taille, et sur les deux tests SNIPS, LFM2.5 350M le devance (34,0 contre 30,2, et 29,0 contre 24,7). Sur BFCL v4, le benchmark généraliste d'appel de fonctions, il obtient 50,2 % contre 59,1 % pour LFM2.5 350M. Tous les chiffres sont ceux de Cactus, obtenus avec son binaire fourni face à des concurrents en f16.
L'échelle de profondeurs est la partie astucieuse, et c'est le fine-tuning qui la rentabilise. Cactus indique qu'un affinage sur DroidCall fait gagner de 18 à 36 points à chaque profondeur, le modèle de 29M à 4 couches dépassant alors DeepSeek V4 Flash sur cette tâche. La démo du canard de Better Stack fait la même démonstration à petite échelle : sur 49 prompts réservés, un fine-tune a fait passer le modèle complet de 27 % à 84 % et une version de 15 MB à 4 couches à 61 %. Attendez-vous à l'affiner avant de livrer ; le modèle de base est un point de départ.
Les petits caractères méritent d'être lus. Le moteur est une bibliothèque précompilée sans code source publié, et le paquet comme les binaires envoient des statistiques d'usage anonymes sauf si vous définissez NEEDLE_TELEMETRY=0. Les chiffres de taille varient aussi : la page indique de 8 à 29 MB, alors que le needle3.cact à 20 couches sur Hugging Face pèse 35,3 MB, et la page de sortie revendique 20.6k étoiles sur GitHub contre environ 14 400 sur le dépôt lui-même.
Là où il fait la différence
Une équipe firmware chez un fabricant d'aspirateurs robots
Transformer des instructions orales comme « nettoie la cuisine mais laisse la chambre » en une suite de commandes
Affinez avec LoRA sur la boîte à outils du produit, puis utilisez needle build pour un sous-réseau à 8 couches destiné à la carte ARM du robot ; associez-le à Whistle pour la parole. Renvoyez les appels peu fiables vers une demande de confirmation au lieu d'agir.
Un développeur Android dans une application de finances personnelles
Lire les notifications bancaires sur le téléphone et en extraire le commerçant, le montant et la date
Déclarez un schéma Pydantic et appelez extract() ; la sortie est toujours valide. Testez d'abord sur vos propres notifications, car le graphique de Cactus montre des concurrents de 230M et 350M devant lui sur certains tests d'extraction.
Un maker qui construit un jouet parlant ou un robot de bureau
Ajouter un pilotage en langage naturel avec des règles de personnalité, hors ligne
Better Stack l'a affiné sur une RTX 5090 pour piloter un Open Duck Mini simulé ; sur 49 prompts inédits, la précision est passée de 27 % à 84 %. Le build de 15 MB à 4 couches a obtenu 61 % et convient à une carte plus petite.
Avant de vous engager
- Mise en route
- pip install cactus-needle, décorez des fonctions Python avec @needle.tool et appelez Needle(tools=[...]).run() ; le moteur et les poids se téléchargent une fois. needle build --platform <folder> --layers N produit un paquet pour l'appareil.
- Intégrations
- Paquet Python ; API C (needle_load, needle_init, needle_complete, needle_embed) ; une CLI avec un serveur HTTP local ; des moteurs pour 13 dossiers de plateformes, dont iOS, Android, watchOS, les caméras MIPS, le navigateur et WASI. Accepte les schémas d'outils de style OpenAI. Charge Whistle dans le même moteur pour l'entrée vocale.
- Données et confidentialité
- L'inférence ne touche jamais le réseau et fonctionne en environnement isolé. La télémétrie d'usage anonyme est activée par défaut ; NEEDLE_TELEMETRY=0 et DO_NOT_TRACK=1 la désactivent. Les données d'entraînement sont propriétaires et non divulguées.
- Coût à grande échelle
- Ni licence ni frais par appel. Sur un Raspberry Pi 5, Cactus annonce un décodage d'environ 400 tokens par seconde à 20 couches à 4 000 à 2 couches. Le fine-tuning sur la plateforme et son post-entraînement en 2 bits sont payants, à des prix non publiés.
- Limites
- Les schémas d'outils partagent un petit contexte avec le prompt, si bien que les grands catalogues d'outils doivent être découpés ou récupérés à la demande ; l'API native gère un modèle par processus. Les exports affinés en local sont en 4 bits, plus gros que le fichier en 2 bits fourni (63 MB à 20 couches dans le test de Better Stack).
Les points forts
- 86,0 % sur Mobile Actions avec 121M de paramètres, selon Cactus
- La sortie contrainte par grammaire est toujours valide ; confiance calibrée par appel
- Un seul jeu de poids tourne à n'importe quelle profondeur de 2 à 20 couches
- Fine-tuning LoRA en local ; poids sous Apache 2.0
Les points faibles
- Derrière des modèles de 230M à 350M sur l'extraction et BFCL v4
- Le moteur est fermé ; télémétrie activée par défaut
- Les tailles et nombres d'étoiles publiés ne correspondent pas aux dépôts
- Le modèle de base doit être affiné pour la plupart des produits
Idéal pour
Les fabricants d'appareils et les éditeurs d'applications qui ont un petit ensemble fixe d'actions et affineront un modèle pour le faire tourner hors ligne sur du matériel très contraint.
Alternatives à Needle 3
Needle 3 : questions fréquentes
- Needle 3 vaut-il le coup ?
- Un modèle crédible pour les commandes de téléphone, à une taille qu'aucun autre n'atteint, vendu avec une promesse plus large que ce que montrent ses propres graphiques. Nous lui donnons 3.6 sur 5.
- Combien coûte Needle 3 ?
- Poids ouverts gratuits sous Apache 2.0 ; moteurs précompilés téléchargeables gratuitement. La Cactus Platform vend du post-entraînement en 2 bits, des datasets et des fine-tunes complets ; prix non publiés.
- Quels sont les inconvénients de Needle 3 ?
- Derrière des modèles de 230M à 350M sur l'extraction et BFCL v4; le moteur est fermé ; télémétrie activée par défaut; les tailles et nombres d'étoiles publiés ne correspondent pas aux dépôts; le modèle de base doit être affiné pour la plupart des produits.
- À qui s’adresse Needle 3 ?
- Les fabricants d'appareils et les éditeurs d'applications qui ont un petit ensemble fixe d'actions et affineront un modèle pour le faire tourner hors ligne sur du matériel très contraint.
- Combien coûte Needle 3 pour une équipe ou en production ?
- Ni licence ni frais par appel. Sur un Raspberry Pi 5, Cactus annonce un décodage d'environ 400 tokens par seconde à 20 couches à 4 000 à 2 couches. Le fine-tuning sur la plateforme et son post-entraînement en 2 bits sont payants, à des prix non publiés.
- Needle 3 est-il sûr pour les données de l’entreprise ?
- L'inférence ne touche jamais le réseau et fonctionne en environnement isolé. La télémétrie d'usage anonyme est activée par défaut ; NEEDLE_TELEMETRY=0 et DO_NOT_TRACK=1 la désactivent. Les données d'entraînement sont propriétaires et non divulguées.
- Quelles sont les meilleures alternatives à Needle 3 ?
- Les alternatives les plus proches que nous avons testées sont LFM3, Gemma 4 et MiniCPM5-2B.
Réponses vérifiées le 2 nov. 2026.