BitNet b1.58 2B4Tとは？
BitNet b1.58 2B4Tは、Microsoft Researchが2025年4月に公開した研究用モデルです。パラメーターは約20億、学習トークンは4兆で、すべての重みが-1、0、+1の3値のいずれか、1つあたり約1.58ビットです。活性化は8ビットです。小型の量子化モデルの多くと違い、学習後に圧縮したのではなく、最初からこの形式で学習しています。
狙いは効率です。Microsoftの表では、埋め込みを除くメモリは0.4 GBで、Gemma 3 1Bの1.4 GB、Qwen2.5 1.5Bの2.6 GBを下回り、CPUでのデコードは1トークンあたり29 ms、推定エネルギーは1トークンあたり0.028ジュールです。英語のテキストを読み書きし、コンテキストは4,096トークン、トークナイザーはLlama 3のものです。
ライセンスはMITです。こうした効果を得るにはMicrosoftのランタイムbitnet.cppが必要で、通常のtransformersではフル精度モデルより速くなりません。bitnet.cppのリポジトリはGitHubで約41,500スター、最終更新は2026年7月で、重みは直近30日でHugging Faceから約11,000回ダウンロードされました。
BitNet b1.58 2B4Tは使う価値があるか？
BitNetが示したのは、最初から学習した3値の重みでも性能が保てるということです。Microsoftのベンチマーク群で平均54.19となり、Qwen2.5 1.5Bの55.23、SmolLM2 1.7Bの48.70、Llama 3.2 1Bの44.90、Gemma 3 1Bの43.74と比べられます。このグループの中でGSM8Kの数学で58.38、ARC-Challengeで49.91と首位で、埋め込みを除くメモリはQwenの2.6 GBに対し0.4 GBです。
知識とコードが問われる場面では弱めです。Qwen2.5 1.5BがMMLU（60.25対53.17）、HumanEval+（50.60対38.40）、MATH-500（53.00対43.40）で上回り、指示への追従ではGemma 3 1Bが勝ります。比較相手自体が2024年から2025年初めのモデルなので、その後に出た小型モデルと比べてどうかは、この表からはほとんどわかりません。
実用上の難点はランタイムとコンテキストです。速度とエネルギーの節約はbitnet.cppでしか得られず、Microsoftはtransformersでは通常のモデルと同じか、それより遅いと警告しています。4,096トークンのコンテキストはチャット履歴や文書には短く、英語以外の言語への対応は限られ、Microsoft自身のモデルカードも、さらなるテストなしでの商用や実環境での利用は勧めないとしています。
価値は基準点としてのものです。CPUでの1ビット推論に向けて開発する価値があるかを判断するなら研究すべきモデルで、Microsoftはこれに代わる、より大きい、あるいは新しいBitNet言語モデルをまだ公開していません。
真価を発揮する場面
産業用センサーメーカーの組み込みソフトウェアエンジニア
GPUがなくRAMも少ないゲートウェイで言語モデルが動くか試したい
bitnet.cppをビルドし、対象のCPUでGGUFを実行します。Microsoftの計測では1トークン29 ms、埋め込みを除くメモリ0.4 GBです。4,096トークンのコンテキストにプロンプトが収まるか確認してください。
効率的な機械学習を研究するグループの博士課程学生
3値モデルを特定のタスク向けにファインチューニングし、量子化したベースラインと比べたい
Microsoftが学習用に公開しているBF16のマスター重みから、MITライセンスのもとで始めます。4兆トークンの学習と公開されたレシピが、学習後量子化と比べるためのきれいな基準になります。
導入前に確認すること
- 導入
- microsoft/BitNet（bitnet.cpp）をクローンしてビルドし、GGUFをダウンロードしてコマンドラインから実行します。transformers経由は特定のフォークが必要で、速度面の利点はありません。
- 連携
- CPU推論にbitnet.cpp、実験用にtransformersのフォーク、学習やファインチューニング用にBF16の重み。
- データとプライバシー
- 自分のCPU上で完全にオフラインで動きます。MITライセンスは商用利用を認めていますが、Microsoftは事前にさらなるテストを勧めています。
- 大規模利用時のコスト
- 重みは無料で、普通のCPUで動きます。Microsoftの推定では1トークンあたり0.028 Jで、Gemma 3 1Bは0.186 Jです。
- 制限
- Microsoftのモデルカードによれば、コンテキストは4,096トークン、英語以外の対応は限定的で、選挙に関する質問では誤りの率が高めです。
良い点
- 埋め込みを除くメモリ0.4 GB、Qwen2.5 1.5Bの約6分の1
- MicrosoftのテストでCPU上1トークン29 ms
- 平均でQwen2.5 1.5Bに迫る（54.19対55.23）
- MITライセンス、ファインチューニング用BF16マスター重みあり
気になる点
- 節約にはbitnet.cppが必要で、transformersでは速くならない
- コンテキストは4,096トークン
- Microsoftはテストなしの商用利用を勧めていない
- 比較対象は2024年と2025年初めのモデルのみ
おすすめの人
ネイティブ1ビットモデルがCPUだけのハードウェアで実用になるかを評価する研究者や組み込みエンジニア。
BitNet b1.58 2B4Tの代替
BitNet b1.58 2B4T：よくある質問
- BitNet b1.58 2B4Tは使う価値があるか？
- BitNet b1.58 2B4Tは、ネイティブ1ビットのモデルがわずかなメモリでフル精度の2Bモデルに並べることを示しましたが、研究成果物であって製品に載せるモデルではありません。 評価は5点満点中3.5点です。
- BitNet b1.58 2B4Tの料金は？
- 重みとランタイムbitnet.cppはMITライセンスで無料です。ホスト型APIはありません。
- BitNet b1.58 2B4Tの欠点は？
- 節約にはbitnet.cppが必要で、transformersでは速くならない; コンテキストは4,096トークン; Microsoftはテストなしの商用利用を勧めていない; 比較対象は2024年と2025年初めのモデルのみ.
- BitNet b1.58 2B4Tは誰に向いているか？
- ネイティブ1ビットモデルがCPUだけのハードウェアで実用になるかを評価する研究者や組み込みエンジニア。
- チームや本番環境でBitNet b1.58 2B4Tを使うと費用はいくらか？
- 重みは無料で、普通のCPUで動きます。Microsoftの推定では1トークンあたり0.028 Jで、Gemma 3 1Bは0.186 Jです。
- BitNet b1.58 2B4Tは企業データを扱っても安全か？
- 自分のCPU上で完全にオフラインで動きます。MITライセンスは商用利用を認めていますが、Microsoftは事前にさらなるテストを勧めています。
- BitNet b1.58 2B4Tの代わりになるものは？
- 当サイトでレビューした中で最も近い代替はTernary Bonsai 2 9B, SmolLM3-3B, MiniCPM5-2B 、 LFM3です。
回答確認日：2026年11月7日