Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB)とは？
Nemotron 3.5 Boltは、ローカルのハードウェアでエージェントを動かすためのNVIDIAのオープ ンモデルファミリーです。大きいほうのBolt 74B-A9B 24GBは、2026年10月15日にNemotron 3.5 Super VLとともにHugging Faceに登場しました。これはSuper VLを圧縮したものです。アーキテクチャ探索で120Bの親モデルを総パラメータ740億、トークンごとのアクティブ90億に削り、ルーティング先のエキスパートを22個から9個に減らしたうえで、1,200億トークンで再学習し、ツール利用のための強化学習を行いました。エキスパートは重みあたり2.0625ビットで保存されているため、GGUFは22.02 GBで、これに1.73 GBのビジョンファイルが加わります。テキスト、画像、2分までのmp4動画を読み取り、256Kトークンのコンテキストを持ちます。
小さいほうのBolt E4B 4GBは10月23日に続きました。こちらはSuper VLとはまったく関係がありません。NVIDIAはGoogleのGemma-4-E4B-itを、複数ターンのツール利用、指示追従、短い音声応答のための強化学習で事後学習しました。パラメータは80億（実効40億）、入力はテキストのみで、入出力とも64Kトークンです。Q4_K_Mファイルはディスク上で6.18 GBです。NVIDIAの言う4GBは対象とするワークロードでのピークメモリを指し、測定値は3.1〜5.0 GBでした。
どちらも商用利用を認めるNVIDIAのOpenMDW-1.1ライセンスで、E4BにはGemma 4のApache 2.0の条件も適用されます。
Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB)は使う価値があるか？
ファミリーを支えるのはBolt 74B-A9Bで、多くのローカルモデルにはない独立した数値があります。Artificial AnalysisはIntelligence Indexで21.4とし、100Bパラメータ未満のモデルで4位、550BのモデルNemotron 3 Ultraとの差は1.5ポイントです。NVIDIA自身の表はさらに好意的で、Terminal-Bench 2.1で50.98（Qwen3.6-35B-A3Bは44.38）、BrowseCompで66.75（48.74）です。それでもすべてで勝っているわけではなく、AA-Omniscienceの正確さではGemma 4 26B-A4Bが上回り（22.17対16.90）、PinchBenchではQwenがわずかに上回ります。
名前はハードウェアを過大に見せています。22 GBのファイルと1.73 GBのビジョンエンコーダーで、24 GBのカードにはキャッシュの余地が残りません。NVIDIA自身のデプロイの表は、65,536トークンのコンテキストに32 GBのディスクリートGPU、262,144トークンをフルに使うには48 GBを求めています。対応GPUはAda LovelaceとBlackwellのみで、速度の数値はすべて128 GBのメモリを持つRTX SparkノートPCによるものです。
競合より遅く、冗長でもあります。NVIDIAのブログによると、投機的ドラフター使用時で毎秒84トークンで、Qwen3.6-35B-A3Bは96.63、Gemma 4は100.56です。他のモデルが約454秒と481秒で終えるエージェントのタスクに600.80秒かかります。Artificial Analysisは、インデックスのタスクあたり82,000出力トークンを数え、Super VLの1.8倍でした。強みは速度ではなく、メモリ容量あたりの精度です。
E4Bは別の賭けで、音声やデバイスのアシスタント向けのGemma 4のファインチューニング版です。NVIDIAは、指示の階層を問うテストIHEvalで84.79と報告しており、元のGemmaは67.04です。しかしTau2-Bench（75.06対55.10）と64Kトークンの想起ではQwen3.5 4Bが上回ります。RTX 5070では最初のトークンまで548 ms、毎秒133.4トークンと測定されました。Jetson Orin Nanoでは待ち時間が5.8秒で、リアルタイムの音声には遅すぎます。E4Bのスコアはすべて、NVIDIAが自社のNeMo Gymの評価環境で実行したものです。
真 価を発揮する場面
32 GBのNVIDIAワークステーションGPUを持つ開発者
スクリーンショットをコンテキストに入れて、ブラウジングとターミナルのエージェントをローカルで動かす
NVIDIAの28 GBの手順を使います。ソースからビルドしたllama.cpp、65,536トークンのコンテキスト、q8_0のKVキャッシュ、1 GBのDFlashドラフターです。NVIDIAはBrowseCompで66.75、Terminal-Bench 2.1で50.98と報告していますが、Qwen3.6-35B-A3Bより実行時間は長くなると見込んでください。
Jetson上で会話するアシスタントを作るロボティクスチーム
クラウドとの往復なしに、デバイスに音声でツールを使う応答をさせる
E4BのQ4_K_M版を、会話モードをオンにし思考の予算を設定して動かします。NVIDIAはJetson Orin Nanoでメモリ4.2〜5.0 GB、毎秒13〜15.5トークン、最初のトークンまで5.8秒と測定しているため、リアルタイムの音声にはJetson AGX OrinかRTXのカードのほうが適しています。
PCソフトウェア企業のプロダクトリード
法務が承認するライセンスのもとでデバイス上のアシスタントを提供する
OpenMDW-1.1は売上の 上限も利用規定もなく、制限なしに権利を付与します。再配布の場合にのみ、ライセンスと通知を同梱する必要があります。E4BにはGemma 4のApache 2.0の条件が加わります。注意点：ハードウェアです。どちらもNVIDIAのGPUのみを対象としています。
導入前に確認すること
- 導入
- 最新のllama.cppをCUDA付きでソースからビルドし、22.02 GBのGGUF、1.73 GBのビジョンファイル、1 GBのドラフターをダウンロードして、NVIDIAの28 GBまたは32 GBの手順でllama-serverを起動します。E4Bは6.18 GBのファイルで、ビルド済みのllama.cpp CUDAコンテナから動かせます。
- 連携
- ツール呼び出し、JSON出力、enable_thinkingスイッチに対応したOpenAI互換のchat completions。E4Bには会話モード、実行時の思考予算、非同期のツール呼び出しが加わります。どちらにもDFlashのドラフターがあります。
- データとプライバシー
- セルフホストなのでデータはローカルにとどまります。OpenMDW-1.1は売上の上限なしで商用利用を認めていますが、モデルに関して特許や著作権で訴訟を起こすと権利が失われます。NVIDIAは事前学習と事後学習のデータセットを公開していますが、多くのソースを非公開としています。
- 大規模利用時のコスト
- 重みは無料で、Artificial Analysisは74Bの従量制価格を掲載していません。ハードウェア：74Bでは65Kのコンテキストに32 GBのGPU、262Kには48 GBが必要です。E4BのピークはNVIDIAのテストで、RTX 5070からJetson Orinまで3.1〜5.0 GBです。
- 制限
- 74B：Ada LovelaceとBlackwellのみ、WindowsとLinux、動画は2分まで、トークン使用量が多い。E4B：テキストのみ、64Kのコンテキスト、Jetson Orin Nanoでは最初のトークンまで5.8秒。
良い点
- Artificial Analysisのインデックスで21.4、100B未満で4位
- 22 GBのファイルで画像と2分の動画の入力に対応
- OpenMDW-1.1：商用利用可、売上の上限なし
- E4B：RTX 5070で最初のトークンまで548 ms（NVIDIA）
気になる点
- 名前に反して、74Bには32 GBのGPUが必要
- NVIDIA自身のテストでQwen3.6-35B-A3BとGemma 4より遅い
- AAのインデックスのタスクあたり82K出力トークン
- E4BはTau2-Benchと長文コンテキストでQwen3.5 4Bに及ばない
おすすめの人
32 GB以上のNVIDIA GPU、あるいはRTXやDGX Sparkを持ち、有能なローカルのマルチモーダルエージェントモデルを求めるエンジニアと、JetsonやRTXで音声アシスタントを作るデバイスメーカーに向いています。
Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB)の代替
Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB)：よくある質問
- Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB)は使う価値があるか？
- 74Bは100B未満で上位5位に入るスコアをワークステーションのGPU 1枚に載せますが、名前の24GBは重みの容量であり、必要なカードの容量ではありません。 評価は5点満点中3.9点です。
- Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB)の料金は？
- OpenMDW-1.1のもとでオープンウェイトは無料です。どちらのモデルも従量制のAPI価格は公開されていません。E4Bにはbuild.nvidia.comのエンドポイントがあります。
- Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB)の欠点は？
- 名前に反して、74Bには32 GBのGPUが必要; NVIDIA自身のテストでQwen3.6-35B-A3BとGemma 4より遅い; AAのインデックスのタスクあたり82K出力トークン; E4BはTau2-Benchと長文コンテキストでQwen3.5 4Bに及ばない.
- Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB)は誰に向いているか？
- 32 GB以上のNVIDIA GPU、あるいはRTXやDGX Sparkを持ち、有能なローカルのマルチモーダルエージェントモデルを求めるエンジニアと、JetsonやRTXで音声アシスタントを作るデバイスメーカーに向いています。
- チームや本番環境でNemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB)を使うと費用はいくらか？
- 重みは無料で、Artificial Analysisは74Bの従量制価格を掲載していません。ハードウェア：74Bでは65Kのコンテキストに32 GBのGPU、262Kには48 GBが必要です。E4BのピークはNVIDIAのテストで、RTX 5070からJetson Orinまで3.1〜5.0 GBです。
- Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB)は企業データを扱っても安全か？
- セルフホストなのでデータはローカルにとどまります。OpenMDW-1.1は売上の上限なしで商用利用を認めていますが、モデルに関して特許や著作権で訴訟を起こすと権利が失われます。NVIDIAは事前学習と事後学習のデータセットを公開していますが、多くのソースを非公開としています。
- Nemotron 3.5 Bolt (74B-A9B 24GB and E4B 4GB)の代わりになるものは？
- 当サイトでレビューした中で最も近い代替はNemotron 3.5 Super VL, Gemma 4, Underdog Saluki 27B 1.0 、 Qwen3.8-27Bです。
回答確認日：2026年10月28日