Nemotron 3.5 ASR Streaming 0.6Bとは？
Nemotron 3.5 ASRは、NVIDIAによる6億パラメータのストリーミング音声認識モデルで、2026年6月4日に緩やかなOpenMDW-1.1ライセンスでHugging Faceに公開されました。NVIDIAの英語版Nemotron Speech Streamingを多言語化したもので、言語プロンプトを加えることで1つのチェックポイントが40の言語・地域をカバーします。内訳は、NVIDIAが文字起こし対応とする19、広範囲対応の13、使用前にファインチューニングが必要な8です。
キャッシュ対応のFastConformerエンコーダーとRNN-Tデコーダーを使い、重なった音声を再処理する代わりにチャンク間でエンコーダーの状態を保持します。チャンクサイズ、つまりレイテンシは、再学習なしで実行時に80、160、320、560、1,120ミリ秒から選べます。出力には句読点と大文字が含まれ、言語をautoにすると聞き取った言語を示すタグが付きます。NeMo、Hugging Face Transformers 5.13.0以降、そしてq8_0のGGUFファイルからNVIDIAのC++ランタイムNeMo-Speech.cppで動作します。
Nemotron 3.5 ASR Streaming 0.6Bは使う価値があるか？
Nemotron 3.5 ASRはライブ文字起こしのための処理能力重視のツールです。NVIDIAの計測では 、H100 1枚で80 ms設定時に240の同時リアルタイムストリームを維持し、旧モデルのParakeet RNNT 1.1Bは14でした。1,120 msでは2,400対400です。音声エージェントや字幕のプラットフォームにとっては、GPU 1枚で済むかラック1台が要るかの違いであり、レイテンシの調整によって遅延と精度のバランスをモデルごとではなくデプロイごとに決められます。
精度は平凡で、NVIDIAの表もそれを示しています。言語を指定し1.12秒チャンクにしたFLEURSで、WERはスペイン語4.11%、英語7.91%、ドイツ語8.31%、フランス語9.03%で、文字起こし対応の19言語・地域の平均は8.84%です。80 msではこの平均が10.38%に上がります。オフラインモデルのほうがはるかに優秀で、NVIDIA自身のNemotron 3.5 TranscribeはArtificial AnalysisでAA-WER 3.4%ですが、ストリーミングはできません。NVIDIA自身も、英語には英語専用のストリーミングモデルを勧めています。
購入者が注意して読むべきなのは広範囲対応の層です。ポーランド語、北京語、チェコ語は誤り率15.15%から20.41%、デンマーク語とハンガリー語は27.49%と28.68%で、平均は22.13%、つまりおよそ5語に1語が誤りです。ギリシャ語、ヘブライ語、タイ語を含む適応対応の8言語・地域は、ファインチューニングするまで使える文字起こしを出しません。NVIDIAはそのためのファインチューニングガイドを公開しています。
注意点：これはNVIDIA仕様のソフトウェアです。対応プラットフォームはNVIDIA GPU上のLinuxとJetsonで、入力はモノラルである必要があり、学習ラベルの一部はWhisperを含む他モデルのアンサンブルで生成されたため、それらに共通する系統的な誤りが引き継がれる可能性があります。話者ラベルはありません。
結論：Nemotron 3.5 ASRは、スペイン語、イタリア語、ポルトガル語、ヒンディー語のライブ字幕を大規模に支えるエンジンです。数秒待てる録音なら、オフラインモデルのほうが目に見えて誤りが少なくなります。
真価を発揮する場面
コンタクトセンター向けソフトウェア企業のプラットフォームエンジニア
スペイン語、ポルトガル語、英語の全通話について、オペレーターにリアルタイムの文字起こしを表示する
NeMoのキャッシュ対応ストリーミングスクリプトで560 msまたは1,120 msのチャンクで動かします。NVIDIAは1,120 msでH100 1枚あたり2,400の並列ストリームを計測しています。DeepInfraのホスト版なら月100万分で約200ドルです。
インドの銀行向け音声エージェントを作る開発者
ヒンディー語と英語の利用者を、自然な会話の受け答えに間に合う速さで認識する
80 msまたは160 msでtarget_lang=autoにして、発話ごとに言語タグを付けます。ヒンディー語のWERは80 msで、言語指定時8.13%、自動判定時11.47%です。
ギリシャの放送局のMLチーム
ギリシャ語のニュースにライブ字幕を付ける
ギリシャ語は適応対応の層にあるため、本番前にNVIDIAのガイドに沿って自社の書き起こしでファインチューニングする予算を確保してください。そのままでは信頼できる文字起こしはできません。
導入前に確認すること
- 導入
- GitHubからNeMoをインストールし（Python 3.11以上、libsndfileとffmpeg）、from_pretrainedでnvidia/nemotron-3.5-asr-streaming-0.6bを読み込み、att_context_sizeとtarget_langを指定してキャッシュ対応ストリーミングスクリプトを実行します。transformers 5.13.0のパイプラインも使えます。
- 連携
- NeMo、Hugging Face Transformers（オフラインとストリーミング）、q8_0 GGUFを使うNeMo-Speech.cpp、NVIDIA Speech NIM。ホスト版エンドポイントはOpenRouter経由のDeepInfra。
- データとプライバシー
- OpenMDW-1.1は商用利用を認めています。セルフホストなら音声は自社ハードウェアに留まります。学習には公開データセット、NVIDIA独自のRivaデータ、他のASRモデルが生成したラベルが混在しています。
- 大規模利用時のコスト
- セルフホストでは、NVIDIAのテストでH100 1枚が1,120 msのレイテンシで2,400ストリームを処理しました。DeepInfraのホスト版は1秒0.00000333ドルで、100万分あたり約200ドルです。
- 制限
- すぐ使えるのは32の言語・地域で、さらに8つはファインチューニング後。入力はモノラル。LinuxとNVIDIA GPU。話者分離なし。チャンクを小さくすると精度が下がります。
良い点
- NVIDIAのテストでH100 1枚あたり80 msで240、1,120 msで2,400ストリーム
- レイテンシを実行時に80から1,120 msで選択
- 1つのモデルで40の言語・地域、自動言語タグ付き
- 緩やかなOpenMDW-1.1ライセンス、NeMo-Speech.cpp用GGUF版あり
- ホスト版で1,000分あたり約0.20ドル
気になる点
- 最も遅い設定でもFLEURS英語WERは7.91%
- 広範囲対応言語の平均WERは22.13%
- 8つの言語・地域は動か す前にファインチューニングが必要
- LinuxとNVIDIA GPUのみ、モノラル音声のみ
- 話者ラベルなし
おすすめの人
NVIDIA GPU上で多数のライブ文字起こしや音声エージェントのセッションを同時に動かすプラットフォーム。
Nemotron 3.5 ASR Streaming 0.6Bの代替
Nemotron 3.5 ASR Streaming 0.6B：よくある質問
- Nemotron 3.5 ASR Streaming 0.6Bは使う価値があるか？
- Nemotron 3.5 ASR Streamingは1枚のGPUで数百のライブ字幕を動かすためのモデルで、その密度の代償が精度です。 評価は5点満点中3.9点です。
- Nemotron 3.5 ASR Streaming 0.6Bの料金は？
- OpenMDW-1.1で無料。OpenRouter上でDeepInfraがホストしており、音声1秒あたり0.00000333ドル、1,000分あたり約0.20ドルです。
- Nemotron 3.5 ASR Streaming 0.6Bの欠点は？
- 最も遅い設定でもFLEURS英語WERは7.91%; 広範囲対応言語の平均WERは22.13%; 8つの言語・地域は動かす前にファインチューニングが必要; LinuxとNVIDIA GPUのみ、モノラル音声のみ; 話者ラベルなし.
- Nemotron 3.5 ASR Streaming 0.6Bは誰に向いているか？
- NVIDIA GPU上で多数のライブ文字起こしや音声エージェントのセッションを同時に動かすプラットフォーム。
- チームや本番環境でNemotron 3.5 ASR Streaming 0.6Bを使うと費用はいくらか？
- セルフホストでは、NVIDIAのテストでH100 1枚が1,120 msのレイテンシで2,400ストリームを処理しました。DeepInfraのホスト版は1秒0.00000333ドルで、100万分あたり約200ドルです。
- Nemotron 3.5 ASR Streaming 0.6Bは企業データを扱っても安全か？
- OpenMDW-1.1は商用利用を認めています。セルフホストなら音声は自社ハードウェアに留まります。学習には公開データセット、NVIDIA独自のRivaデータ、他のASRモデルが生成したラベルが混在しています。
- Nemotron 3.5 ASR Streaming 0.6Bの代わりになるものは？
- 当サイトでレビューした中で最も近い代替はNVIDIA Nemotron 3.5 Transcribe, MAI-Transcribe-2-Streaming, Qwen3-ASR (1.7B and 0.6B), Parakeet TDT 0.6B v3 、 Voxtral 3 (Transcribe and TTS)です。
回答確認日：2026年11月7日