Skip to content

Underdog Saluki 27B 1.0

Qwen3.8-27B comprimido en un archivo de 2 bits de 7,89 GB que mantiene intactas las llamadas a herramientas, bajo Apache 2.0.

Reseña de Andrew Miller · Actualizado

Visitar Underdog Saluki 27B 1.0 Código abierto

Nuestra nota

3.6/5

El Qwen3.8-27B de 2 bits que conviene ejecutar cuando las llamadas a herramientas importan más que las matemáticas, siempre que tomes las puntuaciones de Underdog como una promesa y no como una medición.

¿Qué es Underdog Saluki 27B 1.0?

Underdog Saluki 27B 1.0 es una versión de 2 bits de Qwen3.8-27B de Alibaba, publicada el 7 de octubre de 2026 por Conway Research, la empresa respaldada por a16z que está detrás del asistente en el dispositivo Underdog. No es un modelo nuevo: parte de la cuantización GSQ-RCO de 8,4 GB de Qwen3.8-27B hecha por ISTA-DASLab y la modifica más, reduciendo el archivo a 7,89 GB desde unos 54 GB a tamaño completo. Underdog lo llama un checkpoint preliminar y dice que los detalles del entrenamiento llegarán más adelante.

El único archivo GGUF funciona en llama.cpp y Ollama estándar sin compilaciones personalizadas. El archivo principal es solo de texto; un archivo de visión aparte, de 629 MB o 928 MB, añade entrada de imágenes. El razonamiento está activado por defecto y se puede desactivar en cada petición, como en Qwen3.8. Underdog dice que funciona en un portátil de 16 GB.

Los pesos están bajo Apache 2.0, la misma licencia que los dos modelos en los que se basa. En sus 30 días hasta finales de octubre sumó unas 613.000 descargas en Hugging Face, frente a unos 1,27 millones de la versión de ISTA que modifica.

¿Merece la pena Underdog Saluki 27B 1.0?

Lo que promete Saluki es limitado y útil: con 7,89 GB conserva la mayor parte de lo que Qwen3.8-27B puede hacer como agente. En Underdog Bench, 120 tareas de llamadas a herramientas tomadas del Berkeley Function Calling Leaderboard y congeladas antes de las pruebas, superó 88 frente a 84 del modelo completo de 54 GB y 76 de la versión de ISTA-DASLab de la que parte. Eligió la función correcta en 47 de 48 tareas de llamada única. En 50 incidencias de SWE-bench Verified resolvió 30, frente a 33 del modelo completo. Todas las cifras son de la propia Underdog, obtenidas con su propio entorno, y la empresa reconoce que una diferencia de pocas tareas es ruido.

El coste de la compresión recae en el razonamiento. En AIME 2025 promedia 79,2 frente al 96,7 público del modelo completo, y MuSR cae de 79,6 a 67,5. Las llamadas en paralelo son más inestables de lo que sugiere el titular: superó 42 de 100 con puntuación estricta, y en 23 tareas la respuesta no contenía ninguna llamada que un verificador pudiera leer. Un parser tolerante lo sube a 55. La versión Main de la propia Underdog obtuvo 91 en el conjunto de llamadas a herramientas pero navega peor, y la versión ExLlamaV3 que llama Mia gana en llamadas en paralelo con 69, aunque ocupa 9,1 GB y no carga en llama.cpp.

Lo que Underdog cambió no está documentado. La ficha solo dice que Saluki se basa en el archivo de ISTA y está modificado; la publicación de lanzamiento promete el entrenamiento completo más adelante. Para un equipo que decide entre Saluki y el original de ISTA, eso deja una ventaja de 12 tareas en un benchmark y nada con lo que reproducirla.

Aun así, los argumentos prácticos son sólidos. Un GGUF estándar que carga en llama.cpp y Ollama sin modificar, cabe junto al resto del trabajo de un portátil de 16 GB y conserva el interruptor de razonamiento de Qwen3.8 es más fácil de desplegar que cualquier otra versión de 2 bits que comparó Underdog. La publicación de lanzamiento dice que la versión solo acepta texto, mientras que la ficha, actualizada una semana después, añade un archivo de visión; cuenta con que ese archivo es nuevo y está poco documentado.

Dónde se gana su sitio

  • Un desarrollador que construye un asistente de escritorio privado en un MacBook de 16 GB

    Ejecutar un agente que llama a herramientas de calendario, archivos y búsqueda sin enviar datos fuera

    Sirve el GGUF de 7,89 GB con llama-server y --jinja, con el razonamiento desactivado y temperatura 0 para llamadas directas, como recomienda la ficha. Underdog registra 47 de 48 elecciones de función correctas, pero prevé un parser tolerante de llamadas a herramientas.

  • Un ingeniero de ML que compara versiones de 2 bits de Qwen3.8-27B para un producto en el dispositivo

    Elegir entre Saluki, el original de ISTA-DASLab y las versiones ExLlamaV3

    Saluki va por delante en la selección de una sola herramienta (88 frente a 76 de ISTA en Underdog Bench) y Mia en llamadas en paralelo (69 frente a 42), pero necesita ExLlamaV3. Vuelve a probar antes tus propios esquemas de herramientas, porque el conjunto de 120 tareas de Underdog es pequeño y el método detrás de Saluki no está publicado.

  • El responsable de informática de un bufete de 30 personas

    Dar al personal un asistente sin conexión para tareas con documentos sin contrato en la nube

    Apache 2.0 permite el uso comercial sin tope de ingresos, y el modelo funciona en portátiles que el bufete ya tiene. Es flojo en matemáticas de competición y en acertijos a nivel de letras, que importan poco para redactar y consultar.

Antes de decidirte

Puesta en marcha
Descarga un único archivo de 7,89 GB y arranca llama-server con --jinja -ngl 99 -fa on -c 32768; para Ollama, crea un modelo a partir de un Modelfile de una línea. Añade --mmproj con el archivo de visión de 629 MB o 928 MB para imágenes.
Integraciones
llama-server expone la API de chat de OpenAI en el puerto 8080 con llamadas a herramientas y un interruptor enable_thinking por petición; Underdog probó Ollama 0.40.4 en Apple silicon. También viene dentro de la aplicación Underdog.
Datos y privacidad
Autoalojado, así que los datos se quedan en el equipo. Apache 2.0 permite el uso comercial y la modificación; el archivo NOTICE reconoce a Qwen e ISTA-DASLab.
Coste a escala
Los pesos son gratuitos y no hay precio de API propia. El archivo ocupa 7,89 GB más hasta 928 MB para visión, y Underdog dice que funciona en un portátil de 16 GB; no se publica ninguna cifra de VRAM para contextos largos.
Límites
Conserva entre el 82 y el 85% de la puntuación en matemáticas de competición del modelo completo; es más flojo en acertijos de instrucciones a nivel de letras; alrededor de una quinta parte de las respuestas con llamadas en paralelo tienen fallos de formato; razonamientos largos con el razonamiento activado.

Lo bueno

  • Archivo de 7,89 GB, desde unos 54 GB
  • 88 de 120 tareas de llamadas a herramientas frente a 84 a tamaño completo (autodeclarado)
  • llama.cpp y Ollama estándar, sin compilaciones personalizadas
  • Apache 2.0, como los dos modelos en los que se basa

Lo malo

  • AIME 2025 cae a 79,2 desde 96,7
  • 23 de 100 respuestas con llamadas en paralelo ilegibles para un verificador estricto
  • Método de modificación sin publicar; checkpoint preliminar
  • Todos los benchmarks los ejecutó Underdog

Ideal para

Desarrolladores que ejecutan un agente local con llamadas a herramientas en un portátil de 16 GB o una sola GPU de consumo y aceptan una penalización en matemáticas y razonamiento.

Alternativas a Underdog Saluki 27B 1.0

Underdog Saluki 27B 1.0: preguntas frecuentes

¿Merece la pena Underdog Saluki 27B 1.0?
El Qwen3.8-27B de 2 bits que conviene ejecutar cuando las llamadas a herramientas importan más que las matemáticas, siempre que tomes las puntuaciones de Underdog como una promesa y no como una medición. Le damos un 3.6 sobre 5.
¿Cuánto cuesta Underdog Saluki 27B 1.0?
Pesos gratuitos bajo Apache 2.0. Sin precio de API alojada; pagas tu propio hardware, o lo usas dentro de la aplicación Underdog.
¿Qué inconvenientes tiene Underdog Saluki 27B 1.0?
AIME 2025 cae a 79,2 desde 96,7; 23 de 100 respuestas con llamadas en paralelo ilegibles para un verificador estricto; método de modificación sin publicar; checkpoint preliminar; todos los benchmarks los ejecutó Underdog.
¿Para quién es Underdog Saluki 27B 1.0?
Desarrolladores que ejecutan un agente local con llamadas a herramientas en un portátil de 16 GB o una sola GPU de consumo y aceptan una penalización en matemáticas y razonamiento.
¿Cuánto cuesta Underdog Saluki 27B 1.0 para un equipo o en producción?
Los pesos son gratuitos y no hay precio de API propia. El archivo ocupa 7,89 GB más hasta 928 MB para visión, y Underdog dice que funciona en un portátil de 16 GB; no se publica ninguna cifra de VRAM para contextos largos.
¿Es Underdog Saluki 27B 1.0 seguro para los datos de la empresa?
Autoalojado, así que los datos se quedan en el equipo. Apache 2.0 permite el uso comercial y la modificación; el archivo NOTICE reconoce a Qwen e ISTA-DASLab.
¿Cuáles son las mejores alternativas a Underdog Saluki 27B 1.0?
Las alternativas más cercanas que hemos analizado son Qwen3.8-27B, Gemma 4, gpt-oss-20b y Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB).

Respuestas comprobadas el 28 oct 2026.