¿Qué es Needle 3?
Needle 3 es un modelo diminuto de Cactus Compute, una empresa de IA en el dispositivo respaldada por Y Combinator, publicado en septiembre de 2026. No conversa. A partir de las funciones que expone una aplicación, elige las adecuadas y rellena sus argumentos; a partir de un esquema, extrae campos tipados de texto desordenado; y devuelve embeddings de frases para búsquedas locales. Una gramática compilada a partir de tus esquemas garantiza que el JSON se pueda analizar, y cada respuesta lleva una puntuación de confianza por debajo de la cual la llamada no se ejecuta.
El modelo completo tiene 121 millones de parámetros repartidos en 20 capas, 70,8 millones de ellos en una tabla de memoria de n-gramas, comprimidos a unos 2 bits. Cada profundidad de 2 a 20 capas es un modelo utilizable recortado de los mismos pesos, así que un producto puede llevar una versión de 29M y 4 capas en una cámara y el modelo completo en un móvil. Cactus dice que se entrenó con 360.000 millones de tokens de datos estructurados propios.
Los pesos tienen licencia Apache 2.0, y el ajuste fino con LoRA se hace en local con el paquete de Python. El motor de inferencia se distribuye como binarios precompilados, no como código fuente. El vídeo de Better Stack del 3 de octubre lo ajustó para dirigir un pato robot virtual.
¿Merece la pena Needle 3?
Needle 3 es el modelo más pequeño que conocemos que hace llamadas a herramientas fiables para órdenes del móvil, y es más limitado de lo que dice su marketing. En Mobile Actions, que traduce peticiones del móvil a intents de Android, el modelo de 121M obtiene un 86,0% de coincidencia exacta frente al 82,4% de LFM2.5 1.2B y el 88,4% de DeepSeek V4 Flash en la nube. En DroidCall lidera a todos los modelos pequeños con un 47,0%. Esos son los resultados que sostienen la afirmación de que supera a modelos diez veces mayores.
Cactus dice también que iguala a modelos dos o tres veces mayores en extracción, y su propio gráfico dice otra cosa. En DSTC8 obtiene 40,7 de F1 frente a 53,0 del LFM2.5 de 230M, que no llega al doble de su tamaño, y en las dos pruebas de SNIPS LFM2.5 350M va por delante (34,0 frente a 30,2, y 29,0 frente a 24,7). En BFCL v4, el benchmark general de llamadas a funciones, obtiene un 50,2% frente al 59,1% de LFM2.5 350M. Todas las cifras son de Cactus, obtenidas con su binario distribuido frente a rivales en f16.
La escalera de profundidades es la parte ingeniosa, y el ajuste fino es donde compensa. Cactus comunica que ajustarlo con DroidCall sube todas las profundidades entre 18 y 36 puntos, y que el modelo de 4 capas y 29M supera entonces a DeepSeek V4 Flash en esa tarea. La demo del pato de Better Stack defiende lo mismo a pequeña escala: con 49 prompts reservados, un ajuste fino subió el modelo completo del 27% al 84% y una versión de 4 capas y 15 MB al 61%. Cuenta con ajustarlo antes de lanzarlo; el modelo base es un punto de partida.
La letra pequeña merece una lectura. El motor es una biblioteca precompilada sin código fuente publicado, y el paquete y los binarios envían recuentos de uso anónimos salvo que pongas NEEDLE_TELEMETRY=0. Las cifras de tamaño tampoco cuadran: la página dice de 8 a 29 MB, mientras que el needle3.cact de 20 capas en Hugging Face ocupa 35,3 MB, y la página de lanzamiento afirma 20,6k estrellas en GitHub frente a unas 14.400 en el propio repositorio.
Dónde se gana su sitio
Un equipo de firmware en un fabricante de robots aspiradores
Convertir instrucciones habladas como "limpia la cocina pero deja el dormitorio" en una secuencia de órdenes
Ajústalo con LoRA sobre el conjunto de herramientas propio del producto y después genera con needle build una subred de 8 capas para la placa ARM del robot; combínalo con Whistle para la voz. Envía las llamadas con poca confianza a una pregunta de confirmación en lugar de actuar.
Una desarrolladora de Android en una aplicación de finanzas personales
Leer en el móvil las notificaciones del banco y extraer comercio, importe y fecha
Declara un esquema Pydantic y llama a extract(); la salida siempre se puede analizar. Pruébalo antes con tus propias notificaciones, porque el gráfico de Cactus muestra rivales de 230M y 350M por delante en algunas pruebas de extracción.
Un aficionado que construye un juguete parlante o un robot de escritorio
Añadir control en lenguaje natural con reglas de personalidad, sin conexión
Better Stack lo ajustó en una RTX 5090 para dirigir un Open Duck Mini simulado; con 49 prompts no vistos, la precisión subió del 27% al 84%. La versión de 4 capas y 15 MB obtuvo un 61% y sirve para una placa más pequeña.
Antes de decidirte
- Puesta en marcha
- pip install cactus-needle, decora las funciones de Python con @needle.tool y llama a Needle(tools=[...]).run(); el motor y los pesos se descargan una vez. needle build --platform <folder> --layers N genera un paquete para el dispositivo.
- Integraciones
- Paquete de Python; API en C (needle_load, needle_init, needle_complete, needle_embed); una CLI con servidor HTTP local; motores para 13 carpetas de plataforma, entre ellas iOS, Android, watchOS, cámaras MIPS, el navegador y WASI. Acepta esquemas de herramientas al estilo de OpenAI. Carga Whistle en el mismo motor para la entrada de voz.
- Datos y privacidad
- La inferencia nunca toca la red y funciona en entornos aislados. La telemetría de uso anónima está activada por defecto; NEEDLE_TELEMETRY=0 y DO_NOT_TRACK=1 la desactivan. Los datos de entrenamiento son propios y no se divulgan.
- Coste a escala
- Sin licencias ni tarifas por llamada. En una Raspberry Pi 5, Cactus comunica una decodificación de unos 400 tokens por segundo con 20 capas a 4.000 con 2 capas. El ajuste fino en la plataforma y su post-entrenamiento a 2 bits son de pago, a precios no publicados.
- Límites
- Los esquemas de herramientas comparten un contexto pequeño con el prompt, así que los catálogos grandes de herramientas hay que dividirlos o recuperarlos; la API nativa admite un modelo por proceso. Las exportaciones ajustadas en local son de 4 bits, más grandes que el archivo de 2 bits distribuido (63 MB con 20 capas en la prueba de Better Stack).
Lo bueno
- 86,0% en Mobile Actions con 121M de parámetros, según Cactus
- La salida restringida por gramática siempre se puede analizar; confianza calibrada por llamada
- Un solo conjunto de pesos funciona con cualquier profundidad de 2 a 20 capas
- Ajuste fino LoRA en local; pesos Apache 2.0
Lo malo
- Por detrás de modelos de 230M a 350M en extracción y en BFCL v4
- El motor es de código cerrado; telemetría activada por defecto
- Los tamaños y recuentos de estrellas publicados no coinciden con los repositorios
- El modelo base necesita ajuste fino para la mayoría de los productos
Ideal para
Fabricantes de dispositivos y aplicaciones con un conjunto de acciones fijo y pequeño que van a ajustar un modelo para funcionar sin conexión en hardware muy limitado.
Alternativas a Needle 3
Needle 3: preguntas frecuentes
- ¿Merece la pena Needle 3?
- Un modelo creíble para órdenes del móvil con un tamaño que nadie más alcanza, vendido con una promesa más amplia de lo que respaldan sus propios gráficos. Le damos un 3.6 sobre 5.
- ¿Cuánto cuesta Needle 3?
- Pesos abiertos gratuitos con Apache 2.0; los motores precompilados se descargan gratis. Cactus Platform vende post-entrenamiento a 2 bits, datasets y ajustes finos completos; los precios no se publican.
- ¿Qué inconvenientes tiene Needle 3?
- Por detrás de modelos de 230M a 350M en extracción y en BFCL v4; el motor es de código cerrado; telemetría activada por defecto; los tamaños y recuentos de estrellas publicados no coinciden con los repositorios; el modelo base necesita ajuste fino para la mayoría de los productos.
- ¿Para quién es Needle 3?
- Fabricantes de dispositivos y aplicaciones con un conjunto de acciones fijo y pequeño que van a ajustar un modelo para funcionar sin conexión en hardware muy limitado.
- ¿Cuánto cuesta Needle 3 para un equipo o en producción?
- Sin licencias ni tarifas por llamada. En una Raspberry Pi 5, Cactus comunica una decodificación de unos 400 tokens por segundo con 20 capas a 4.000 con 2 capas. El ajuste fino en la plataforma y su post-entrenamiento a 2 bits son de pago, a precios no publicados.
- ¿Es Needle 3 seguro para los datos de la empresa?
- La inferencia nunca toca la red y funciona en entornos aislados. La telemetría de uso anónima está activada por defecto; NEEDLE_TELEMETRY=0 y DO_NOT_TRACK=1 la desactivan. Los datos de entrenamiento son propios y no se divulgan.
- ¿Cuáles son las mejores alternativas a Needle 3?
- Las alternativas más cercanas que hemos analizado son LFM3, Gemma 4 y MiniCPM5-2B.
Respuestas comprobadas el 2 nov 2026.