Skip to content
ReviewRamble

The weekly brief

AI, reviewed, in your inbox.

  • New reviews of tools, models, MCP servers and repos, with the verdict up front
  • Re-checked prices and ratings when something changes
  • New analysis pieces as they are published

Models, agents, MCP servers and the tools actually worth your time.

One email a week. Unsubscribe with the link in any brief. How we use your email

Underdog Saluki 27B 1.0

Qwen3.8-27Bを7.89 GBの2-bitファイルに詰め込み、ツール呼び出しをそのまま保ったモデルです。Apache 2.0です。

レビュー: Andrew Miller · 更新

Underdog Saluki 27B 1.0を見る オープンソース

当サイトの評価

3.6/5

数学よりツール呼び出しが重要なときに動かす2-bitのQwen3.8-27Bです。ただし、Underdogのスコアは計測結果ではなく約束として扱ってください。

Underdog Saluki 27B 1.0とは?

Underdog Saluki 27B 1.0は、AlibabaのQwen3.8-27Bの2-bitビルドです。2026年10月7日に、端末上で動くUnderdogアシスタントを手がけるa16z出資のConway Researchが公開しました。新しいモデルではありません。ISTA-DASLabによるQwen3.8-27Bの8.4 GBのGSQ-RCO量子化版を出発点にさらに手を加え、フルサイズで約54 GBのファイルを7.89 GBまで削りました。Underdogはこれをプレビュー版のチェックポイントと呼び、学習の詳細は後日公開するとしています。

GGUFファイル1つで、カスタムビルドなしに標準のllama.cppとOllamaで動きます。メインのファイルはテキスト専用で、別の629 MBまたは928 MBのビジョンファイルで画像入力が加わります。Qwen3.8と同じく思考モードは標準でオンで、リクエストごとにオフにできます。Underdogによると、16 GBのノートPCで動きます。

重みはApache 2.0で、もとになった2つのモデルと同じライセンスです。10月下旬までの30日間でHugging Faceのダウンロード数は約613,000で、改変元のISTAビルドは約127万(1.27 million)でした。

Underdog Saluki 27B 1.0は使う価値があるか?

Salukiの主張は限定的で、役に立つものです。7.89 GBで、Qwen3.8-27Bのエージェントとしての能力の大半を保っています。Berkeley Function Calling Leaderboardから選びテスト前に固定した120のツール呼び出しタスクからなるUnderdog Benchでは88件に合格し、54 GBのフルモデルは84件、出発点のISTA-DASLabビルドは76件でした。単一呼び出しのタスク48件中47件で正しい関数を選びました。SWE-bench Verifiedの50件の課題では30件を修正し、フルモデルは33件でした。数値はすべてUnderdog自身が自社のハーネスで出したもので、同社自身も数タスク程度の差はノイズだとしています。

圧縮の代償は推論に出ます。AIME 2025では平均79.2で、フルモデルの公開値は96.7です。MuSRは79.6から67.5に下がります。並列呼び出しは見出しの数値が示すより不安定です。厳格な採点では100件中42件の合格で、23件では応答にチェッカーが読み取れる呼び出しがありませんでした。寛容なパーサーを使うと55件に上がります。Underdog自身のMainビルドはツール呼び出しのセットで91でしたが、ブラウジングは劣ります。同社がMiaと呼ぶExLlamaV3ビルドは並列呼び出しで69と最も良い結果ですが、9.1 GBあり、llama.cppでは読み込めません。

Underdogが何を変えたかは文書化されていません。モデルカードには、SalukiがISTAのファイルをもとに改変したものだとしか書かれておらず、公開時の投稿は学習の詳細を後日公開すると約束しているだけです。SalukiとISTAのオリジナルのどちらにするか決めるチームにとっては、12タスク分のベンチマークのリードがあるだけで、それを再現する手段はありません。

それでも実用面での根拠は強いです。標準のllama.cppとOllamaで読み込める標準的なGGUFで、16 GBのノートPCで他の作業と並行して収まり、Qwen3.8の思考モードの切り替えも保っています。Underdogが比較した他のどの2-bitビルドよりも導入が簡単です。公開時の投稿ではテキスト専用とされていましたが、1週間後に更新されたモデルカードにはビジョンファイルが追加されています。ビジョンファイルは新しく、文書が少ないものと考えてください。

真価を発揮する場面

  • 16 GBのMacBookで非公開のデスクトップアシスタントを作る開発者

    データを外に出さずに、カレンダー、ファイル、検索のツールを呼ぶエージェントを動かす

    モデルカードの推奨どおり、7.89 GBのGGUFをllama-serverと--jinjaで提供し、直接の呼び出しでは思考モードをオフ、temperatureを0にします。Underdogは48件中47件で正しい関数を選んだと報告していますが、寛容なツール呼び出しパーサーを用意しておくべきです。

  • 端末上で動く製品向けに2-bitのQwen3.8-27Bビルドを比較するMLエンジニア

    Saluki、ISTA-DASLabのオリジナル、ExLlamaV3ビルドから選ぶ

    単一ツールの選択ではSalukiが上(Underdog Benchで88対ISTAの76)、並列呼び出しではMiaが上(69対42)ですが、MiaにはExLlamaV3が必要です。Underdogの120タスクのセットは小さく、Salukiの手法は非公開なので、まず自分のツールスキーマで再テストしてください。

  • 30人規模の法律事務所のIT責任者

    クラウド契約なしで、スタッフに書類作業用のオフラインアシスタントを提供する

    Apache 2.0は売上上限なしで商用利用を認めており、モデルは事務所がすでに持っているノートPCで動きます。競技形式の数学や文字単位のパズルには弱いですが、文書作成や調べものではほとんど問題になりません。

導入前に確認すること

導入
7.89 GBのファイルを1つダウンロードし、--jinja -ngl 99 -fa on -c 32768でllama-serverを起動します。Ollamaでは1行のModelfileからモデルを作成します。画像を扱うには、629 MBまたは928 MBのビジョンファイルを--mmprojで追加します。
連携
llama-serverはポート8080でOpenAIのチャットAPIを公開し、ツール呼び出しとリクエストごとのenable_thinkingの切り替えに対応します。UnderdogはApple silicon上のOllama 0.40.4でテストしました。Underdogアプリにも組み込まれています。
データとプライバシー
自前ホスティングなので、データはマシン内にとどまります。Apache 2.0は商用利用と改変を認めており、NOTICEファイルにはQwenとISTA-DASLabのクレジットがあります。
大規模利用時のコスト
重みは無料で、提供元のAPI価格はありません。ファイルは7.89 GBで、ビジョン用に最大928 MBが加わります。Underdogによると16 GBのノートPCで動きますが、長いコンテキストでのVRAMの数値は公開されていません。
制限
競技数学のスコアはフルモデルの82〜85%を保ちます。文字単位の指示パズルが最も苦手です。並列呼び出しの応答の約5分の1に書式の誤りがあります。思考モードをオンにすると推論が長くなります。

良い点

  • 約54 GBから7.89 GBのファイルになりました
  • ツール呼び出しタスク120件中88件、フルサイズは84件です(自己申告)
  • カスタムビルドなしで標準のllama.cppとOllamaで動きます
  • もとになった2つのモデルと同じApache 2.0です

気になる点

  • AIME 2025は96.7から79.2に下がります
  • 並列呼び出しの応答100件中23件が厳格なチェッカーで読み取れません
  • 改変の手法は非公開で、プレビュー版のチェックポイントです
  • ベンチマークはすべてUnderdogが実施しています

おすすめの人

16 GBのノートPCや一般向けGPU 1基でローカルのツール呼び出しエージェントを動かし、数学と推論の低下を受け入れられる開発者です。

Underdog Saluki 27B 1.0の代替

Underdog Saluki 27B 1.0:よくある質問

Underdog Saluki 27B 1.0は使う価値があるか?
数学よりツール呼び出しが重要なときに動かす2-bitのQwen3.8-27Bです。ただし、Underdogのスコアは計測結果ではなく約束として扱ってください。 評価は5点満点中3.6点です。
Underdog Saluki 27B 1.0の料金は?
Apache 2.0の無料の重みです。ホスト型APIの価格はありません。自分のハードウェア代を払うか、Underdogアプリ内で使います。
Underdog Saluki 27B 1.0の欠点は?
AIME 2025は96.7から79.2に下がります; 並列呼び出しの応答100件中23件が厳格なチェッカーで読み取れません; 改変の手法は非公開で、プレビュー版のチェックポイントです; ベンチマークはすべてUnderdogが実施しています.
Underdog Saluki 27B 1.0は誰に向いているか?
16 GBのノートPCや一般向けGPU 1基でローカルのツール呼び出しエージェントを動かし、数学と推論の低下を受け入れられる開発者です。
チームや本番環境でUnderdog Saluki 27B 1.0を使うと費用はいくらか?
重みは無料で、提供元のAPI価格はありません。ファイルは7.89 GBで、ビジョン用に最大928 MBが加わります。Underdogによると16 GBのノートPCで動きますが、長いコンテキストでのVRAMの数値は公開されていません。
Underdog Saluki 27B 1.0は企業データを扱っても安全か?
自前ホスティングなので、データはマシン内にとどまります。Apache 2.0は商用利用と改変を認めており、NOTICEファイルにはQwenとISTA-DASLabのクレジットがあります。
Underdog Saluki 27B 1.0の代わりになるものは?
当サイトでレビューした中で最も近い代替はQwen3.8-27B, Gemma 4, gpt-oss-20b 、 Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB)です。

回答確認日:2026年10月28日