O que é Needle 3?
O Needle 3 é um modelo minúsculo da Cactus Compute, uma empresa de IA no dispositivo apoiada pela Y Combinator, lançado em setembro de 2026. Ele não conversa. Dadas as funções que um app expõe, ele escolhe as certas e preenche os argumentos; dado um esquema, extrai campos tipados de texto bagunçado; e devolve embeddings de frases para busca local. Uma gramática compilada a partir dos seus esquemas garante que o JSON seja válido, e cada resposta traz uma pontuação de confiança, abaixo da qual a chamada é retida.
O modelo completo tem 121 milhões de parâmetros em 20 camadas, 70,8 milhões deles em uma tabela de memória de n-gramas, comprimidos para cerca de 2 bits. Cada profundidade de 2 a 20 camadas é um modelo utilizável cortado dos mesmos pesos, então um produto pode levar uma versão de 29M e 4 camadas para uma câmera e o modelo completo para um celular. A Cactus diz que ele foi treinado com 360 bilhões de tokens de dados estruturados proprietários.
Os pesos estão sob Apache 2.0, e o fine-tuning com LoRA roda localmente pelo pacote Python. O engine de inferência é distribuído como binários pré-compilados, não como código-fonte. O vídeo da Better Stack de 3 de outubro fez fine-tuning dele para controlar um pato-robô virtual.
Needle 3 vale a pena?
O Needle 3 é o menor modelo que conhecemos que faz chamadas de ferramentas confiáveis para comandos de celular, e é mais estreito do que o marketing dele. No Mobile Actions, que mapeia pedidos no celular para intents do Android, o modelo de 121M marca 86,0% de correspondência exata, contra 82,4% do LFM2.5 1.2B e 88,4% do DeepSeek V4 Flash na nuvem. No DroidCall ele lidera todos os modelos pequenos, com 47,0%. Esses são os resultados por trás da alegação de que ele supera modelos dez vezes maiores.
A Cactus também diz que ele iguala modelos duas a três vezes maiores em extração, e o próprio gráfico dela diz o contrário. No DSTC8 ele marca 40,7 de F1 contra 53,0 do LFM2.5 de 230M, com menos do dobro do tamanho, e nos dois testes do SNIPS o LFM2.5 350M fica à frente (34,0 a 30,2 e 29,0 a 24,7). No BFCL v4, o benchmark geral de chamada de funções, ele marca 50,2% contra 59,1% do LFM2.5 350M. Todos os números são da própria Cactus, rodados pelo binário distribuído contra rivais em f16.
A escada de profundidades é a parte engenhosa, e o fine-tuning é onde ela compensa. A Cactus informa que o ajuste no DroidCall eleva todas as profundidades em 18 a 36 pontos, com o modelo de 4 camadas e 29M passando então o DeepSeek V4 Flash nessa tarefa. A demonstração do pato da Better Stack defende o mesmo em pequena escala: em 49 prompts reservados, um fine-tune elevou o modelo completo de 27% para 84% e uma versão de 4 camadas e 15 MB para 61%. Conte com fazer fine-tuning antes de lançar; o modelo base é um ponto de partida.
Vale ler as letras miúdas. O engine é uma biblioteca pré-compilada sem código-fonte publicado, e o pacote e os binários enviam contagens de uso anônimas, a menos que você defina NEEDLE_TELEMETRY=0. Os números de tamanho também variam: a página diz de 8 a 29 MB, enquanto o needle3.cact de 20 camadas no Hugging Face tem 35,3 MB, e a página de lançamento fala em 20,6 mil estrelas no GitHub, contra cerca de 14.400 no próprio repositório.
Onde ele se destaca
Uma equipe de firmware em uma fabricante de robôs aspiradores
Transformar instruções faladas como "limpe a cozinha mas deixe o quarto" em uma sequência de comandos
Faça fine-tuning com LoRA no conjunto de ferramentas do próprio produto e depois use needle build para gerar uma sub-rede de 8 camadas para a placa ARM do robô; combine com o Whistle para a fala. Encaminhe chamadas de baixa confiança para um pedido de confirmação em vez de agir.
Uma desenvolvedora Android em um app de finanças pessoais
Ler notificações bancárias e extrair os campos de estabelecimento, valor e data no próprio celular
Declare um esquema Pydantic e chame extract(); a saída é sempre válida. Faça antes um benchmark com as suas próprias notificações, já que o gráfico da Cactus mostra rivais de 230M e 350M à frente em alguns testes de extração.
Um maker construindo um brinquedo falante ou um robô de mesa
Adicionar controle por linguagem natural com regras de personalidade, offline
A Better Stack fez fine-tuning dele em uma RTX 5090 para controlar um Open Duck Mini simulado; em 49 prompts inéditos, a precisão subiu de 27% para 84%. O build de 4 camadas e 15 MB marcou 61% e serve para uma placa menor.
Antes de decidir
- Configuração
- pip install cactus-needle, decore funções Python com @needle.tool e chame Needle(tools=[...]).run(); o engine e os pesos são baixados uma vez. needle build --platform <folder> --layers N produz um pacote para o dispositivo.
- Integrações
- Pacote Python; API em C (needle_load, needle_init, needle_complete, needle_embed); uma CLI com servidor HTTP local; engines para 13 pastas de plataforma, incluindo iOS, Android, watchOS, câmeras MIPS, o navegador e WASI. Aceita esquemas de ferramentas no estilo da OpenAI. Carrega o Whistle no mesmo engine para entrada de fala.
- Dados e privacidade
- A inferência nunca acessa a rede e funciona em ambientes air-gapped. A telemetria anônima de uso vem ativada por padrão; NEEDLE_TELEMETRY=0 e DO_NOT_TRACK=1 a desativam. Os dados de treino são proprietários e não divulgados.
- Custo em escala
- Sem licença nem tarifa por chamada. Em um Raspberry Pi 5, a Cactus informa decodificação de cerca de 400 tokens por segundo com 20 camadas a 4.000 com 2 camadas. O fine-tuning na plataforma e o pós-treinamento em 2 bits são pagos, a preços não publicados.
- Limites
- Os esquemas de ferramentas dividem um contexto pequeno com o prompt, então catálogos grandes de ferramentas precisam ser divididos ou recuperados; a API nativa mantém um modelo por processo. Exportações com fine-tuning local são em 4 bits, maiores que o arquivo de 2 bits distribuído (63 MB com 20 camadas no teste da Better Stack).
O que é bom
- 86,0% no Mobile Actions com 121M de parâmetros, segundo a Cactus
- A saída restrita por gramática é sempre válida; confiança calibrada por chamada
- Um único conjunto de pesos roda em qualquer profundidade de 2 a 20 camadas
- Fine-tuning local com LoRA; pesos Apache 2.0
O que não é
- Fica atrás de modelos de 230M a 350M em extração e no BFCL v4
- O engine é de código fechado; telemetria ativada por padrão
- Os tamanhos e números de estrelas publicados não batem com os repositórios
- O modelo base precisa de fine-tuning para a maioria dos produtos
Ideal para
Fabricantes de dispositivos e apps com um conjunto pequeno e fixo de ações que vão fazer fine-tuning de um modelo para rodar offline em hardware muito limitado.
Alternativas ao Needle 3
Needle 3: perguntas frequentes
- Needle 3 vale a pena?
- Um modelo crível de comandos para celular em um tamanho que nada mais alcança, vendido com uma promessa mais ampla do que os próprios gráficos sustentam. Damos nota 3.6 de 5.
- Quanto custa Needle 3?
- Pesos abertos gratuitos sob Apache 2.0; engines pré-compilados com download gratuito. A Cactus Platform vende pós-treinamento em 2 bits, datasets e fine-tunes completos; os preços não são publicados.
- Quais são as desvantagens de Needle 3?
- Fica atrás de modelos de 230M a 350M em extração e no BFCL v4; o engine é de código fechado; telemetria ativada por padrão; os tamanhos e números de estrelas publicados não batem com os repositórios; o modelo base precisa de fine-tuning para a maioria dos produtos.
- Para quem Needle 3 é indicado?
- Fabricantes de dispositivos e apps com um conjunto pequeno e fixo de ações que vão fazer fine-tuning de um modelo para rodar offline em hardware muito limitado.
- Quanto custa Needle 3 para uma equipe ou em produção?
- Sem licença nem tarifa por chamada. Em um Raspberry Pi 5, a Cactus informa decodificação de cerca de 400 tokens por segundo com 20 camadas a 4.000 com 2 camadas. O fine-tuning na plataforma e o pós-treinamento em 2 bits são pagos, a preços não publicados.
- Needle 3 é seguro para dados da empresa?
- A inferência nunca acessa a rede e funciona em ambientes air-gapped. A telemetria anônima de uso vem ativada por padrão; NEEDLE_TELEMETRY=0 e DO_NOT_TRACK=1 a desativam. Os dados de treino são proprietários e não divulgados.
- Quais são as melhores alternativas ao Needle 3?
- As alternativas mais próximas que analisamos são LFM3, Gemma 4 e MiniCPM5-2B.
Respostas verificadas em 2 de nov. de 2026.