Qu’est-ce que Underdog Saluki 27B 1.0 ?
Underdog Saluki 27B 1.0 est une version 2 bits du Qwen3.8-27B d'Alibaba, publiée le 7 octobre 2026 par Conway Research, l'entreprise soutenue par a16z derrière l'assistant sur l'appareil Underdog. Ce n'est pas un nouveau modèle : il part de la quantification GSQ-RCO de 8,4 GB d'ISTA-DASLab de Qwen3.8-27B et la modifie davantage, réduisant le fichier à 7,89 GB depuis environ 54 GB à pleine taille. Underdog le qualifie de checkpoint de préversion et indique que les détails d'entraînement suivront.
Le fichier GGUF unique tourne dans un llama.cpp et Ollama standard sans version personnalisée. Le fichier principal est uniquement textuel ; un fichier de vision distinct de 629 MB ou 928 MB ajoute l'entrée d'image. Le thinking est activé par défaut et peut être désactivé par requête, comme avec Qwen3.8. Underdog indique qu'il tourne sur un portable de 16 GB.
Les poids sont sous Apache 2.0, la même licence que les deux modèles sur lesquels il est bâti. En ses 30 jours jusqu'à fin octobre, il a attiré environ 613 000 téléchargements Hugging Face, contre environ 1,27 million pour la version ISTA qu'il modifie.
Underdog Saluki 27B 1.0 vaut-il le coup ?
L'affirmation de Saluki est étroite et utile : à 7,89 GB, il garde l'essentiel de ce que Qwen3.8-27B peut faire comme agent. Sur Underdog Bench, 120 tâches d'appel d'outils tirées du Berkeley Function Calling Leaderboard et gelées avant le test, il a réussi 88 contre 84 pour le modèle complet de 54 GB et 76 pour la version ISTA-DASLab dont il part. Il a choisi la bonne fonction dans 47 des 48 tâches à appel unique. Sur 50 problèmes SWE-bench Verified, il en a corrigé 30 contre 33 pour le modèle complet. Chaque chiffre est celui d'Underdog, exécuté dans son propre harnais, et l'entreprise elle-même dit que quelques tâches d'écart quelconque sont du bruit.
Le coût de la compression tombe sur le raisonnement. Sur AIME 2025, il fait une moyenne de 79,2 contre un 96,7 public pour le modèle complet, et MuSR baisse de 79,6 à 67,5. Les appels parallèles sont plus fragiles que le titre ne le suggère : 42 sur 100 ont réussi avec une notation stricte, et sur 23 tâches la réponse ne contenait aucun appel qu'un vérificateur pouvait lire. Un parseur indulgent porte cela à 55. La propre version Main d'Underdog a obtenu 91 sur le jeu d'appel d'outils mais navigue moins bien, et la version ExLlamaV3 qu'il appelle Mia gagne les appels parallèles avec 69, même si elle fait 9,1 GB et ne se chargera pas dans llama.cpp.
Ce qu'Underdog a changé n'est pas documenté. La fiche indique seulement que Saluki est bâti sur le fichier ISTA et modifié ; le billet de lancement promet l'entraînement complet plus tard. Pour une équipe qui décide entre Saluki et l'original ISTA, cela laisse une avance de 12 tâches en benchmark et rien pour la reproduire.
L'argument pratique reste fort. Un GGUF standard qui se charge dans un llama.cpp et Ollama standard, tient à côté du reste du travail d'un portable de 16 GB, et garde le commutateur de thinking de Qwen3.8 est plus facile à déployer que toute autre version 2 bits qu'Underdog a comparée. Le billet de lancement indique que la version ne prend que le texte, tandis que la fiche, mise à jour une semaine plus tard, ajoute un fichier de vision ; prévoyez le fichier de vision comme nouveau et peu documenté.
Là où il fait la différence
Un développeur qui construit un assistant desktop privé sur un MacBook de 16 GB
Faire tourner un agent qui appelle les outils de calendrier, de fichiers et de recherche sans envoyer de données dehors
Servir le GGUF de 7,89 GB avec llama-server et --jinja, le thinking désactivé et une température de 0 pour les appels directs, comme le recommande la fiche. Underdog rapporte 47 des 48 bons choix de fonction, mais prévoyez un parseur d'appel d'outils indulgent.
Un ingénieur ML qui compare des versions 2 bits de Qwen3.8-27B pour un produit sur l'appareil
Choisir entre Saluki, l'original ISTA-DASLab et les versions ExLlamaV3
Saluki mène sur la sélection d'outil unique (88 contre 76 pour ISTA sur Underdog Bench), Mia mène sur les appels parallèles (69 contre 42) mais a besoin d'ExLlamaV3. Réexécutez d'abord vos propres schémas d'outils, puisque le jeu de 120 tâches d'Underdog est petit et la méthode derrière Saluki est non publiée.
Un responsable informatique dans un cabinet d'avocats de 30 personnes
Donner au personnel un assistant hors ligne pour les corvées de documents sans contrat cloud
Apache 2.0 autorise l'usage commercial sans plafond de revenus, et le modèle tourne sur des portables que le cabinet possède déjà. Il est faible en maths de style compétition et en énigmes au niveau des lettres, qui comptent peu pour la rédaction et la recherche.
Avant de vous engager
- Mise en route
- Téléchargez un fichier de 7,89 GB et lancez llama-server avec --jinja -ngl 99 -fa on -c 32768 ; pour Ollama, créez un modèle à partir d'un Modelfile d'une ligne. Ajoutez --mmproj avec le fichier de vision de 629 MB ou 928 MB pour les images.
- Intégrations
- llama-server expose l'API de chat OpenAI sur le port 8080 avec appels d'outils et un commutateur enable_thinking par requête ; Underdog a testé Ollama 0.40.4 sur Apple silicon. Il est aussi livré dans l'appli Underdog.
- Données et confidentialité
- Auto-hébergé, si bien que les données restent sur la machine. Apache 2.0 autorise l'usage commercial et la modification ; le fichier NOTICE crédite Qwen et ISTA-DASLab.
- Coût à grande échelle
- Les poids sont gratuits et il n'y a pas de prix d'API de première partie. Le fichier fait 7,89 GB plus jusqu'à 928 MB pour la vision, et Underdog indique qu'un portable de 16 GB le fait tourner ; aucun chiffre de VRAM pour les longs contextes n'est publié.
- Limites
- Garde 82 à 85 % du score de maths de compétition du modèle complet ; le plus faible sur les énigmes d'instruction au niveau des lettres ; environ un cinquième des réponses d'appel parallèle portent des erreurs de formatage ; raisonnement long avec le thinking activé.
Les points forts
- Fichier de 7,89 GB, depuis environ 54 GB
- 88 des 120 tâches d'appel d'outils contre 84 pour la pleine taille (autodéclaré)
- llama.cpp et Ollama standard, pas de version personnalisée
- Apache 2.0, comme les deux modèles sur lesquels il est bâti
Les points faibles
- AIME 2025 tombe à 79,2 depuis 96,7
- 23 des 100 réponses d'appel parallèle illisibles pour un vérificateur strict
- Méthode de modification non publiée ; checkpoint de préversion
- Chaque benchmark exécuté par Underdog
Idéal pour
Les développeurs qui font tourner un agent à appel d'outils local sur un portable de 16 GB ou un seul GPU grand public et acceptent une pénalité de maths et de raisonnement.
Alternatives à Underdog Saluki 27B 1.0
Underdog Saluki 27B 1.0 : questions fréquentes
- Underdog Saluki 27B 1.0 vaut-il le coup ?
- Le Qwen3.8-27B 2 bits à faire tourner quand l'appel d'outils compte plus que les maths, tant que vous traitez les scores d'Underdog comme une promesse et non une mesure. Nous lui donnons 3.6 sur 5.
- Combien coûte Underdog Saluki 27B 1.0 ?
- Poids Apache 2.0 gratuits. Pas de prix d'API hébergée ; vous payez votre propre matériel, ou l'utilisez dans l'appli Underdog.
- Quels sont les inconvénients de Underdog Saluki 27B 1.0 ?
- AIME 2025 tombe à 79,2 depuis 96,7; 23 des 100 réponses d'appel parallèle illisibles pour un vérificateur strict; méthode de modification non publiée ; checkpoint de préversion; chaque benchmark exécuté par Underdog.
- À qui s’adresse Underdog Saluki 27B 1.0 ?
- Les développeurs qui font tourner un agent à appel d'outils local sur un portable de 16 GB ou un seul GPU grand public et acceptent une pénalité de maths et de raisonnement.
- Combien coûte Underdog Saluki 27B 1.0 pour une équipe ou en production ?
- Les poids sont gratuits et il n'y a pas de prix d'API de première partie. Le fichier fait 7,89 GB plus jusqu'à 928 MB pour la vision, et Underdog indique qu'un portable de 16 GB le fait tourner ; aucun chiffre de VRAM pour les longs contextes n'est publié.
- Underdog Saluki 27B 1.0 est-il sûr pour les données de l’entreprise ?
- Auto-hébergé, si bien que les données restent sur la machine. Apache 2.0 autorise l'usage commercial et la modification ; le fichier NOTICE crédite Qwen et ISTA-DASLab.
- Quelles sont les meilleures alternatives à Underdog Saluki 27B 1.0 ?
- Les alternatives les plus proches que nous avons testées sont Qwen3.8-27B, Gemma 4, gpt-oss-20b et Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB).
Réponses vérifiées le 28 oct. 2026.