2026年のおすすめ小型・オンデバイスAIモデル
当サイトでレビューした14件の小型・オンデバイスAIモデルのうち、現在のおすすめはGemma 4、Ministral 3 (3B, 8B and 14B)、LFM3です。各製品を当サイトの評価順に並べ、料金、評価のまとめ、向いている人を記載しています。
執筆： Andrew Miller · 2026年11月2日更新 · レビューの方法
ランキングの方法：各製品の 料金、ドキュメント、ポリシー、さらに独立したベンチマークがある場合はそれも基にしたレビューで、5点満点の評価順に並べています。各情報はレビューに記載の日付に確認したものです。アフィリエイト報酬は受け取っていません。
- 1
ライセンスがようやく品質に見合ったことで、Gemma 4は32Bパラメータ未満のオープンモデルの標準になりました。
おすすめの人： 寛容なライセンスとマルチモーダル入力を求め、デバイス上、ローカル、またはGPU 1基で動くアプリを作る開発者に向いています。
料金： 重みはApache 2.0で無料です。Google Cloudやサードパーティでホストされており、OpenRouterでは100万トークンあたり31Bが$0.20/$0.40、26B A4Bが約$0.08/$0.26です。
Gemma 4のレビューを読む4.4/5 - 2
すっきりしたライセンスのもとで、すべてのサイズに推論と視覚を備えた完全な小型モデルファミリーです。ただしMistral自身の比較のいくつかでは、まだQwenがわずかに上回ります。
おすすめの人： ノートPC、エッジデバイス、安価なホスト型推論向けに、寛容なライセンスで視覚に対応した小型モデルが必要なチームに向いています。
料金： Apache 2.0のオープンウェイトです。Mistral API：100万トークンあたり14Bが$0.20、8Bが$0.15、3Bが$0.10で、入力と出力は同額。バッチは半額です。
Ministral 3 (3B, 8B and 14B)のレビューを読む4.1/5 - 3
エージェントから音声、型付き判定まで、それぞれ約1ギガバイトに収まる有能な2Bモデルが6つあります。ただしライセンスは、相変わらず売上1,000万ドル（$10 million）で打ち切られます。
おすすめの人： スマートフォン、ノートPC、GPU 1基で動かす必要のあるオンデバイスのエージェント、音声機能、高速な分類器を作る、売上1,000万ドル未満の開発者と企業。
料金： 重みはLFM Open Licenseで無料（商用利用は年間売上1,000万ドル（$10M）未満のみ）。VentureBeatがサインイン後のコンソールから報じたLiquid APIの料金：LFM3-1.7Bは100万（1M）トークンあたり入力$0.08／出力$0.20、VLは$0.10／$0.50、AudioとOmniは$0.10／$1.00に音声トークンの料金が加わります。ホスト型のd1判定は入力100万トークンあたり$0.02で、出力は無料です。
LFM3のレビューを読む4.0/5 - 4
4Bモデルのようにツールを呼び出し、コードを修正する2Bモデルです。ただし、知識は4Bモデルより目に見えて少なくなっています。
おすすめの人： スマートフォン、ノートPC、エッジのハードウェアにツール呼び出しやコーディングの補助機能を載せる開発者と、完全に文書化された小型モデルの訓練を求める研究者。
料金： 重みと訓練データはApache 2.0で無料です。
MiniCPM5-2Bのレビューを読む4.0/5 - 5
Bonsai 2 9Bは、90億（nine-billion）パラメータ級の有能なビジョンモデルをスマートフォンのメモリに収めます。その代償の大半は、推論の負荷が高い作業で払うことになります。
おすすめの人： 推論の最後の数ポイントよりメモリが重要な、スマートフォン、ノートPC、6 GBのGPU向けにローカルのアシスタントやコーディング支援を出荷する開発者です。
料金： Apache 2.0で無料です。Darkbloomコンソールでホストされていますが、価格は公開されていません。
Ternary Bonsai 2 9Bのレビューを読む4.0/5 - 6
74Bは100B未満で上位5位に入るスコアをワークステーションのGPU 1枚に載せますが、名前の24GBは重みの容量であり、必要なカードの容量ではありません。
おすすめの人： 32 GB以上のNVIDIA GPU、あるいはRTXやDGX Sparkを持ち、有能なローカルのマルチモーダルエージェントモデルを求めるエンジニアと、JetsonやRTXで音声アシスタントを作るデバイスメーカーに向いています。
料金： OpenMDW-1.1のもとでオープンウェイトは無料です。どちらのモデルも従量制のAPI価格は公開されていません。E4Bにはbuild.nvidia.comのエンドポイントがあります。
Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB)のレビューを読む3.9/5 - 7
公開から14か月が経っても、gpt-oss-20bはホストできる実用的な推論モデルとして最も安価です。ただし今では、同じ16GBでGemma 4の方が多くのことをこなします。
おすすめの人： 画像入力を必要とせず、ノートPCや一般向けGPU 1枚で、無料かつ非公開で速い推論モデルを使いたい開発者。
料金： 重みはApache 2.0で無料。ホスト型はOpenRouterで100万（1M）トークンあたり入力$0.018／出力$0.09から。Artificial Analysisの掲載価格は$0.07／$0.25です。
gpt-oss-20bのレビューを読む3.8/5 - 8
ノートPCサイズのエージェントモデルで、ツールのテストではQwen3.6-35B-A3Bを上回ります。ただし、売上1,000万ドル（$10 million）で打ち切られるライセンスが足かせです。
おすすめの人： ノートPCやGPU 1基でツールを呼び出すエージェントを動かす開発者と小規模企業のうち、売上1,000万ドルの線を下回るか、ホスト型APIを使う人。
料金： 重みはLFM Open Licenseで無料（商用利用は年間売上1,000万ドル（$10M）未満のみ）。Liquid Console：100万（1M）トークンあたり入力$0.10／出力$1.00。OpenRouter：$0.05／$0.70。
LFM2.5-24B-A2Bのレビューを読む3.8/5 - 9
異例なほど丁寧に文書化されており、プロンプトよりも事実をよく保ちます。ただし英語の書き直しの10件に1件はまだ何かを変えてしまい、看板のスコアは明日にも変わりうる1つの検出器に依存しています。
おすすめの人： AIで下書きを書き、その結果を自分の文章らしく、自分のマシン上で整えたい人で、送る前に数字や名前を校正する人。
料金： Apache 2.0で無料：重み、GGUFファイル、デスクトップアプリ、CLI。ホスト型のサービスはありません。
humanizer (12B)のレビューを読む3.7/5 - 10
iFlytek自身のグラフでは、Spark-X2.6-4Bはこれまでで最も強い4Bのエージェントモデルです。しかしそのどれも外部から確かめられておらず、最大の勝ちのうち2つは、iFlytekしか見たことのないベンチマークによるものです。
おすすめの人： ノートパソコンやエッジのデバイスでローカルのエージェントを作り、自分のタスクで主張を検証でき、iFlytekのモデルを使っても差し支えない開発者。
料金： Apache 2.0で無料で、自分のハードウェアで動きます。4Bのモデルのホスト版の価格は公開されていません。
Spark-X2.6-4Bのレビューを読む3.7/5 - 11
パラメータあたりの数学の力は目を見張るものですが、数学以外では役に立たず、これまで採点したのは作った当人たちだけです。
おすすめの人： 競技数学の解答を安く大量に必要とし、答えを自動で検証できる研究者や教育テックのチーム。
料金： Apache 2.0の無料のオープンウェイトです。ホスト版のAPIはなく、支払うのは自分のGPUの費用だけです。
Limite 1B - Violettoのレビューを読む3.6/5 - 12
ほかのどのモデルも届かない大きさで、信頼できるスマートフォンのコマンドのモデルです。ただし自社のグラフが裏付けるより広い主張とともに売られています。
おすすめの人： 決まった少数の操作を持ち、非常に制約の多いハードウェアでオフラインで動かすためにモデルをファインチューニングする、デバイスやアプリのメーカー。
料金： Apache 2.0の無料のオープンウェイトで、ビルド済みのエンジンも無料でダウンロードできます。Cactus Platformは2ビットの事後学習、データセット、完全なファインチューニングを販売していますが、価格は公開されていません。
Needle 3のレビューを読む3.6/5 - 13
数学よりツール呼び出しが重要なときに動かす2-bitのQwen3.8-27Bです。ただし、Underdogのスコアは計測結果ではなく約束として扱ってください。
おすすめの人： 16 GBのノートPCや一般向けGPU 1基でローカルのツール呼び出しエージェントを動かし、数学と推論の低下を受け入れられる開発者です。
料金： Apache 2.0の無料の重みです。ホスト型APIの価格はありません。自分のハードウェア代を払うか、Underdogアプリ内で使います。
Underdog Saluki 27B 1.0のレビューを読む3.6/5 - 14
SmolLM3は製品というより、ガラス張りの学習の記録です。3Bモデルの作り方を学ぶには並ぶものがありませんが、製品に載せるには見劣りします。
おすすめの人： 研究やファインチューンのために、小型で完全に再現可能なモデルを求める研究者と教育者。
料金： 重みはApache 2.0で無料で、学習データのレシピとチェックポイントも公開されています。Hugging Face自身のInference Providersにホスト型APIはありません。
SmolLM3-3Bのレビューを読む3.5/5
出典
ランキング内の各レビューの主な公式情報源です。全出典は各レビューに記載しています。
- Gemma 4: Google: Gemma 4, byte for byte the most capable open models
- Ministral 3 (3B, 8B and 14B): Mistral AI: Introducing Mistral 3
- LFM3: Liquid AI blog: Introducing LFM3
- MiniCPM5-2B: Hugging Face: openbmb/MiniCPM5-2B model card
- Ternary Bonsai 2 9B: Hugging Face: prism-ml/Ternary-Bonsai-2-9B-gguf model card
- Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB): Hugging Face: NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB-GGUF model card
- gpt-oss-20b: Hugging Face: openai/gpt-oss-20b
- LFM2.5-24B-A2B: Hugging Face: LFM2.5-24B-A2B model card
- humanizer (12B): Hugging Face: jialinyyzz/humanizer model card
- Spark-X2.6-4B: Hugging Face: XHToken/Spark-X2.6-4B model card
- Limite 1B - Violetto: Paradigma: Limite 1B - Violetto release blog
- Needle 3: Cactus Compute: Needle 3 release page
- Underdog Saluki 27B 1.0: Hugging Face: Underdog Saluki 27B 1.0 model card
- SmolLM3-3B: Hugging Face: HuggingFaceTB/SmolLM3-3B model card