Needle 3とは？
Needle 3は、Y Combinatorが支援するオンデバイスAIの会社Cactus Computeによる非常に小さなモデルで、2026年9月に公開されました。チャットはしません。アプリが公開している関数を与えると、適切なものを選んで引数を埋めます。スキーマを与えると、乱雑なテキストから型付きの項目を抽出します。ローカル検索向けの文の埋め込みも返します。スキーマからコンパイルした文法により、JSONが必ずパースできることが保証され、すべての回答に信頼度のスコアが付き、それを下回る呼び出しは保留されます。
完全なモデルは20層で1億2,100万（121 million）パラメータあり、そのうち7,080万（70.8 million）はn-gramのメモリの表で、約2ビットに圧縮されています。2層から20層までのどの深さでも、同じ重みから切り出した使えるモデルになるので、製品はカメラに29Mの4層版を、スマートフォンに完全なモデルを載せられます。Cactusによると、独自の構造化データ3,600億（360 billion）トークンで学習しました。
重みはApache 2.0で、LoRAのファインチューニングはPythonのパッケージでローカルに実行できます。推論のエンジンはソースではなく、ビルド済みのバイナリとして提供されます。Better Stackの10月3日の動画では 、これをファインチューニングして仮想のロボットのアヒルを操縦させました。
Needle 3は使う価値があるか？
Needle 3は、スマートフォンのコマンドで信頼できるツール呼び出しを行うモデルとして、私たちが知る限り最も小さく、そしてそのマーケティングより範囲は狭いモデルです。スマートフォンへの依頼をAndroidのインテントに対応づけるMobile Actionsでは、121Mのモデルは完全一致で86.0%で、LFM2.5 1.2Bは82.4%、クラウドのDeepSeek V4 Flashは88.4%です。DroidCallでは47.0%で、すべての小型モデルを上回ります。10倍の大きさのモデルに勝つという主張の裏にあるのは、これらの結果です。
Cactusは抽出でも2倍から3倍の大きさのモデルに並ぶとしていますが、自社のグラフは違うことを示しています。DSTC8ではF1が40.7で、2倍に満たない大きさの230MのLFM2.5は53.0です。SNIPSの2つのテストでは、どちらもLFM2.5 350Mが上回っています（34.0対30.2、29.0対24.7）。汎用の関数呼び出しのベンチマークBFCL v4では50.2%で、LFM2.5 350Mは59.1%です。数字はすべてCactus自身のもので、配布しているバイナリで、f16の競合と比べて実行したものです。
賢いのは深さの段階で、効果が出るのはファインチューニングです。Cactusの報告では、DroidCallで調整するとどの深さでも18から36ポイント上がり、4層、29MのモデルがそのタスクではDeepSeek V4 Flashを上回ります。Better Stackのアヒルのデモも小さな規模で同じことを示しています。未使用の49のプロンプトで、ファインチューニングにより完全なモデルは27%から84%に、15 MBの4層版は61%に上がりました。出荷の前にファインチューニングすると考えてください。ベー スのモデルは出発点です。
細かい条件は読んでおく価値があります。エンジンはソースが公開されていないビルド済みのライブラリで、パッケージとバイナリは、NEEDLE_TELEMETRY=0を設定しない限り匿名の利用回数を送信します。大きさの数字にもずれがあります。ページでは8から29 MBとしていますが、Hugging Face上の20層のneedle3.cactは35.3 MBです。またリリースのページはGitHubのスターを20.6kとしていますが、リポジトリ自体では約14,400です。
真価を発揮する場面
ロボット掃除機メーカーのファームウェアチーム
「キッチンは掃除して、寝室はそのままにして」といった音声の指示を、一連のコマンドに変える
製品自身のツールの組み合わせでLoRAによるファインチューニングを行い、needle buildでロボットのARMのボード向けに8層のサブネットワークを作ります。音声にはWhistleを組み合わせます。信頼度の低い呼び出しは、実行せずに確認のプロンプトに回してください。
個人向け家計管理アプリのAndroid開発者
スマートフォン上で銀行の通知を店名、金額、日付の項目に読み取る
Pydanticのスキーマを宣言してextract()を呼びます。出力は必ずパースできます。Cactusのグラフでは、い くつかの抽出のテストで230Mと350Mの競合が上回っているので、まず自分の通知でベンチマークしてください。
話すおもちゃや卓上ロボットを作るメイカー
性格のルールを備えた自然言語での操作を、オフラインで加える
Better StackはRTX 5090でファインチューニングし、シミュレーションのOpen Duck Miniを操縦させました。未使用の49のプロンプトで、精度は27%から84%に上がりました。4層、15 MBのビルドは61%で、より小さなボードに向いています。
導入前に確認すること
- 導入
- pip install cactus-needleを実行し、Pythonの関数に@needle.toolを付けて、Needle(tools=[...]).run()を呼びます。エンジンと重みは一度だけダウンロードされます。needle build --platform <folder> --layers Nでデバイス用のバンドルが作られます。
- 連携
- Pythonのパッケージ。C API（needle_load、needle_init、needle_complete、needle_embed）。ローカルのHTTPサーバー付きのCLI。iOS、Android、watchOS、MIPSのカメラ、ブラウザ、WASIを含む13のプラットフォームのフォルダー向けのエンジン。OpenAI形式のツールのスキーマを受け付けます。音声入力のために、同じエンジンでWhistleを読み込めます。
- データとプライバシー
- 推論はネットワークに一切触れず、エアギャップ環境でも動きます。匿名の利用状況のテレメトリーは標準で有効で、NEEDLE_TELEMETRY=0とDO_NOT_TRACK=1で無効にできます。学習データは独自のもので、公開されていません。
- 大規模利用時のコスト
- ライセンス料も呼び出しごとの料金もありません。Raspberry Pi 5では、Cactusの報告によるとデコードは20層で毎秒約400トークンから、2層で4,000トークンです。プラットフォームでのファインチューニングと2ビットの事後学習は有料で、価格は公開されていません。
- 制限
- ツールのスキーマはプロンプトと小さなコンテキストを共有するので、大きなツールの一覧は分割するか検索で取り出す必要があります。ネイティブのAPIでは1つのプロセスに1つのモデルしか保持できません。ローカルでファインチューニングして書き出したものは4ビットで、配布されている2ビットのファイルより大きくなります（Better Stackのテストでは20層で63 MB）。
良い点
- Cactusによると、121MパラメータでMobile Actionsが86.0%
- 文法で制約した出力は必ずパースでき、呼び出しごとに較正された信頼度が付く
- 1組の重みが2層から20層までのどの深さでも動く
- ローカルでのLoRAのファインチューニング、Apache 2.0の重み
気になる点
- 抽出とBFCL v4では230Mから350Mのモデ ルに及ばない
- エンジンはクローズドソースで、テレメトリーが標準で有効
- 公表されている大きさとスターの数がリポジトリと一致しない
- ほとんどの製品ではベースのモデルにファインチューニングが必要
おすすめの人
決まった少数の操作を持ち、非常に制約の多いハードウェアでオフラインで動かすためにモデルをファインチューニングする、デバイスやアプリのメーカー。
Needle 3の代替
Needle 3：よくある質問
- Needle 3は使う価値があるか？
- ほかのどのモデルも届かない大きさで、信頼できるスマートフォンのコマンドのモデルです。ただし自社のグラフが裏付けるより広い主張とともに売られています。 評価は5点満点中3.6点です。
- Needle 3の料金は？
- Apache 2.0の無料のオープンウェイトで、ビルド済みのエンジンも無料でダウンロード できます。Cactus Platformは2ビットの事後学習、データセット、完全なファインチューニングを販売していますが、価格は公開されていません。
- Needle 3の欠点は？
- 抽出とBFCL v4では230Mから350Mのモデルに及ばない; エンジンはクローズドソースで、テレメトリーが標準で有効; 公表されている大きさとスターの数がリポジトリと一致しない; ほとんどの製品ではベースのモデルにファインチューニングが必要.
- Needle 3は誰に向いているか？
- 決まった少数の操作を持ち、非常に制約の多いハードウェアでオフラインで動かすためにモデルをファインチューニングする、デバイスやアプリのメーカー。
- チームや本番環境でNeedle 3を使うと費用はいくらか？
- ライセンス料も呼び出しごとの料金もありません。Raspberry Pi 5では、Cactusの報告によるとデコードは20層で毎秒約400トークンから、2層で4,000トークンです。プラットフォームでのファインチューニングと2ビットの事後学習は有料で、価格は公開されていません。
- Needle 3は企業データを扱っても安全か？
- 推論はネットワークに一切触れず、エアギャップ環境でも動きます。匿名の利用状況のテレメトリーは標準で有効で、NEEDLE_TELEMETRY=0とDO_NOT_TRACK=1で無効にできます。学習データは独自のもので、公開されていません。
- Needle 3の代わりになるものは？
- 当サイトでレビューした中で最も近い代替はLFM3, Gemma 4 、 MiniCPM5-2Bです。
回答確認日：2026年11月2日