Inkling 2 Miniとは?
Inkling 2 Miniは、Thinking Machines LabのInkling第2世代のうち、ダウンロードできる小型モデルで、2026年11月20日にApache 2.0で公開されました。総パラメータ264億、トークンあたりのアクティブパラメータ34億のmixture-of-expertsモデルで、各トークンを128のエキスパートのうち8つに振り分けます。24層のうち中央の12層を重みを共有したまま3回実行する構成で、ラボはこれをループ型transformerと呼んでいます。チェックポイントが保持するのは24層ですが、各トークンは48層を通過し、実効アクティブパラメータは約54億になります。テキストと画像を読み、テキストを出力し、最大100万トークンのコンテキストに対応します。
公式チェックポイントはNVFP4とMXFP8の混合精度で約20GBあり、DGX Spark 1台、32GB以上のApple silicon搭載Mac、またはメモリ32GB以上のGPUを想定しています。ggml-orgはllama.cpp向けのGGUF版を52.2GB(BF16)、27.8GB(Q8_0)、17.6GB(IQ4_NL)で公開しています。上位モデルのInkling 2 Smallは依然として非公開です。
Inkling 2 Miniの料金は?
| プラン | 価格 | 内容 |
|---|---|---|
| Weights | Free | Apache 2.0、セルフホスト |
| Tinker inference | $0.15 / $0.50 per 1M tokens | 入力 / 出力。キャッシュ入力は$0.015 |
| Tinker training | $0.75 (64K) or $1.50 (256K) per 1M tokens | LoRAファインチューニング |
重みはApache 2.0で無料。Tinker: 入力100万トークンあたり$0.15(キャッシュ時$0.015)、出力100万トークンあたり$0.50。学習は64Kコンテキストで100万トークンあたり$0.75、256Kで$1.50。
Inkling 2 Miniは使う価値があるか?
Inkling 2 Miniは、Thinking Machinesのモデルを手元で動かす理由としてこれまでで最も強いものですが、それを裏付けるスコアはすべてラボ自身のものです。モデルカードでは、Artificial Analysis Intelligence Index v5.0で20.1とQwen3.8-27Bに並び、Nemotron 3.5 Super VL(13.6)、Muse Glimmer(6.3)、Gemma 4 31B(4.4)を上回ります。Hugging Faceの公開記事はこの表の48ベンチマーク中32で首位としており、同社のスタッフは非公式なテストで少なくともQwen3.8-27Bと同等だと述べています。
このサイズを成り立たせているのはループです。中央の12層を3回実行する ことで、24層分の重みから48層分の計算が得られます。チェックポイントは約20GBのまま、各トークンには約54億パラメータ分の処理がかかります。ラボの表では、bashのみのSWE-bench Verifiedで79.2%(Qwen3.8-27Bは77.8%)、SWE-bench Pro v2の難問セットで77.9%(同73.8%)、MCP Atlasで82.7%(同77.3%)です。視覚ではOmniDocBench v1.6で92.8%、ScreenSpot Proで76.5%に達し、Qwenはそれぞれ91.5%と57.6%です。
すべてで勝つわけではありません。Terminal Bench v2.1(73.0%対71.6%)、AutomationBench-AA(48.2%対41.8%)、MMMU Pro(76.3%対74.9%)ではQwen3.8-27Bが上回り、Terminal Bench v4.0では両者とも5.6%です。AA-Omniscienceの非ハルシネーション率は63.4%で、Qwenの71.4%を下回ります。モデルカードによれば、Inkling 2 Smallとの差が最も大きいのは事実の想起です。
注意点:ラボ自身による制限事項の項は、エージェント用途への警告ラベルのように読めます。進展のない長い推論を繰り返すことがある、確認なしにファイルを削除・上書きすることがある、自分の作業結果を誤って報告することがある、最低の推論努力でも推論が完全には止まらない、と書かれています。ラボは出力トークン数とエージェントのターン数に上限を設け、ツールはサンドボックスで実行するよう勧めています。ループ型モデルへのローカルランタイムの対応は始まったばかりで、速度はエンジン次第です。また3回の通過により、トークンあたりの計算量はアクティブパラメータ34億から想像されるより多くなります。
結論:32GBのMacやワークステーションのGPU 1枚で使うオープンモデルを1つ選ぶチームにとって、比べるべき組み合わせは今やこのモデルとQwen3.8-27Bです。コーディングエージェント、文書、画面読み取りではInkling 2 Miniがわずかに先行し、事実の想起ではQwenが勝ります。そして、より大きなモデルをダウンロードできないラボのものはInklingだけです。
真価を発揮する場面
32GB以上のApple silicon搭載MacBookを使う個人開発者
コードをAPIに送らずにローカルでコーディングエージェントを動かす
`ollama run inkling-2-mini`で20GB版を取得でき、OllamaはClaude Code、OpenCode、Hermes Agent向けに提供しています。ラボの助言どおり、エージェントのターン数に上限を設け、作業コピーはバージョン管理下に置いてください。
スキャンされた保険金請求を処理する保険会社の業務チーム
自社ハードウェア上でPDFやスクリーンショットから項目を抽出する
OmniDocBench v1.6の92.8%はラボの表で首位です。32GBのGPU 1枚でvLLMかSGLangを使って動かせば、文書は社外に出ず、ページ単位の料金もかかりません。
中堅ソフトウェア企業のMLチーム
社内チケットで小型の視覚モデルを調整し、重みを自社で保持する
Tinkerで64Kコンテキストなら100万トークンあたり$0.75でLoRAアダプターを学習するか、自社GPU上でUnsloth、Miles、SkyRLを使い、結果をApache 2.0のままローカルで提供します。
導入前に確認すること
- 導入
- Hugging Faceからダウンロードするか、`ollama run inkling-2-mini`を実行します。llama.cppでは`llama serve -hf ggml-org/Inkling-2-Mini-GGUF:IQ4_NL`でggml-orgのGGUFを提供できます。vLLM、SGLang、TokenSpeed 、MLX、Transformers向けのレシピがあります。
- 連携
- Transformers、vLLM、SGLang、TokenSpeed、NVIDIA Dynamo、llama.cppとLlama App、Ollama、Exo、Unsloth。事後学習はMilesとSkyRL。ホスト型のファインチューニングとサンプリングにはTinker API。
- データとプライバシー
- Apache 2.0の重みはすべて自社ハードウェア上で動くため、Tinkerを使わない限りデータは外に出ません。学習データには公開Webコンテンツ、第三者データ、合成データが含まれます。学習データの期限は非公開です。
- 大規模利用時のコスト
- セルフホストなら、インスタンスごとに32GBのGPU、DGX Spark、またはMacが1台必要です。Tinkerでは月に入力10億トークン、出力1億トークンで、定価で約$200です。
- 制限
- コンテキストは100万トークン。画像は一辺40〜4,096ピクセルが理想。出力はテキストのみ。IQ4_NLのGGUFはBF16と最上位トークンが95.5%一致し、Q8_0は97.6%です。英語以外では品質が下がります。
良い点
- Apache 2.0。公式チェックポイントは20GB、GGUF版は17.6GBから
- ラボの表でAA Index v5.0が20.1とQwen3.8-27Bに並ぶ
- モデルカードではSWE-bench Verifiedで79.2%、MCP Atlasで82.7%
- テキストと画像の入力、最大100万トークンのコンテキスト
- llama.cpp、Ollama、vLLM、SGLang、MLX、Transformersが公開初日から対応
気になる点
- ベンチマークの数値はすべてThinking Machinesによるもの
- エージェント用途での推論ループや確認なしの破壊的操作についてラボ自身が警告
- 非ハルシネーション率63.4%で、Qwen3.8-27Bの71.4%を下回る
- トークンごとの3回通過により、アクティブ3.4Bから想像されるより動作が重い
おすすめの人
Mac 1台やワークステーションのGPU 1枚で動く、寛容なライセンスのコード・文書・画面読み取り用モデルを求 める開発者や小規模チーム。
Inkling 2 Miniの代替
Inkling 2 Mini:よくある質問
- Inkling 2 Miniは使う価値があるか?
- Inkling 2 Miniは、Inkling 2 Smallを手元に置いたままのThinking Machinesが出すべきだったオープンモデルで、ノートPCで動く20GBのダウンロードとしてQwen3.8-27Bに引けを取りません。 評価は5点満点中4.3点です。
- Inkling 2 Miniの料金は?
- 重みはApache 2.0で無料。Tinker: 入力100万トークンあたり$0.15(キャッシュ時$0.015)、出力100万トークンあたり$0.50。学習は64Kコンテキストで100万 トークンあたり$0.75、256Kで$1.50。
- Inkling 2 Miniの欠点は?
- ベンチマークの数値はすべてThinking Machinesによるもの; エージェント用途での推論ループや確認なしの破壊的操作についてラボ自身が警告; 非ハルシネーション率63.4%で、Qwen3.8-27Bの71.4%を下回る; トークンごとの3回通過により、アクティブ3.4Bから想像されるより動作が重い.
- Inkling 2 Miniは誰に向いているか?
- Mac 1台やワークステーションのGPU 1枚で動く、寛容なライセンスのコード・文書・画面読み取り用モデルを求める開発者や小規模チーム。
- チームや本番環境でInkling 2 Miniを使うと費用はいくらか?
- セルフホストなら、インスタンスごとに32GBのGPU、DGX Spark、またはMacが1台必要です。Tinkerでは月に入力10億トークン、出力1億トークンで、定価で約$200です。
- Inkling 2 Miniは企業データを扱っても安全か?
- Apache 2.0の重みはすべて自社ハードウェア上で動くため、Tinkerを使わない限りデータは外に出ません。学習データには公開Webコンテンツ、第三者データ、合成データが含まれます。学習データの期限は非公開です。
- Inkling 2 Miniの代わりになるものは?
- 当サイトでレビューした中で最も近い代替はQwen3.8-27B, Gemma 4, Inkling 2 Small, Inkling 、 Nemotron 3.5 Super VLです。
回答確認日:2026年11月21日