EAGLE-4とは?
EAGLE-4は投機的デコーディングで大規模言語モデルの推論を速くします。小さなドラフトモデルが複数のトークンを提案し、ターゲットモデルが1回のパスでそれを検証するため、出力はターゲット単独の場合と同じです。このリポジトリにはeagle-harnessが入っています。EAGLE-4のドラフトをSGLang、vLLM、TokenSpeedにつなぎ、手元のマシンで測ったコストからどこまで投機するかを決めるパッケージで、バッチが大きくなるとドラフトツリーが小さくなります。
公開元はEagle AI Corpで、EAGLE、EAGLE-2、EAGLE-3を土台にしているとしています。最初の公開ドラフトはQwen3.8-27B向けです。リポジトリは2026年10月20日に作成され、スターは約1,221、Dockerイメージとwheelを提供し、2026年11月1日にv0.1.5をリリースしました。オープンソースではなく、ソース公開型です。
EAGLE-4は使う価値があるか?
投機的デコーディングは、空いているサーバーには効き、混んでいるサーバーには逆効果になりがちです。ドラフトのトークン生成に使う計算を、満杯のバッチは本来の処理に回したいからです。EAGLE-4の答えは、手元のハードウェアでライブのコストを測り、ドラフトツリーを現在のバッチに合わせて大き さを決めるハーネスで、投機を有効にしたままにできます。NVIDIA B300 GPU 4基とQwen3.8-27Bで、サポートマトリクスはSGLangが通常のデコードに対し1リクエストで3.42倍、同時8件で2.09倍、64件で1.39倍、vLLMが2.83倍、1.72倍、1.14倍、TokenSpeedが3.09倍、2.02倍、1.41倍と報告しています。AMD MI355X 1基では、SGLangが8リクエストで2.07倍、32件で1.56倍でした。
ドキュメントは効果がどこで終わるかについて珍しいほど率直です。既知の制限のページによると、READMEのクイックスタートにあるSGLangのコマンドは高負荷時に通常のデコードへ戻り、B300 1基で同時64、128、256リクエストのとき1.00倍でした。GPU 4基向けの別の高負荷レシピは512リクエストまで通常のデコードと同等の速度を保ちます。vLLMとTokenSpeedはまだ通常のデコードに切り替わらず、64リクエストを超えると投機なしより遅くなりうるため、ドキュメントはその場合は無効にするよう勧めています。正しさは前提にせずfp32の基準で確認し、出力が分かれたプロンプトも一覧にしています。
対象範囲は狭いです。測定結果は公開されたターゲットとドラフトの組み合わせQwen3.8-27Bの1組と、Nemotron 3.5 Superを、B300とMI355Xで扱うだけで、ほかのアーキテクチャ、マルチノード構成、パイプライン並列は検証中とされています。クイックスタートは約62 GBをダウンロードし、CUDA 13のドライバーが必要で、pipでのインストールはEagle独自のwheelインデックスにあるパッチ適用済みのSGLangに固定されます。
本当の判断材料はライセンスです。Eagle 4 Source-Available Licenseは、任意の12か月の売上合計が2,000万米ドル(US$20 million)未満の場合にだけ商用利用を認め、競合する提供物は一切 禁じ、クローンやフォークを同意とみなします。受け入れられたコントリビューションのライセンスもEagle AI Corpが管理します。SGLangとvLLM自体に組み込まれた投機的デコーディングの機能には、こうした条件はありません。
真価を発揮する場面
Qwen3.8-27Bでコーディングアシスタントを動かすスタートアップの推論エンジニア
答えを変えずに、単独ユーザーのリクエストごとの待ち時間を減らす
EAGLE-4のドラフトとハーネスでSGLangを動かします。サポートマトリクスではB300 4基で1リクエスト時に通常の3.42倍です。会社の売上が2,000万米ドル(US$20 million)未満の間は無料です。
AMD MI355Xで波のある通信量をさばくプラットフォームチーム
ピークを遅くせずに空いている時間帯を速くする
AMD向けガイドに従います。MI355X 1基でSGLangは8リクエストで2.07倍、32件で1.56倍でした。高負荷レシピを使い、混雑時は通常のデコードに戻るようにします。
投機的デコーディングの手法を比較する研究者
新しいドラフト手法を測定済みのベースラインと比べる
SPEED-Benchのクライアントを温度0で使い、サポートマトリクスのコマンドを再現します。最初のリクエストはカーネルのコンパイルとコスト測定をするので、先にサーバーを温めておきます。
導入前に確認すること
- 導入
- 公開されているSGLangのDockerイメージを実行するか、Python 3.12でeagle-harnessを固定版のSGLangと一緒にpipでインストールします(CUDA toolkitとC++コンパイラーが必要)。初回起動で約62 GBをダウンロードし、カーネルをコンパイルします。
- 連携
- SGLang、vLLM、TokenSpeedの各エンジン、エンジンが提供するOpenAI互換のchat completions、Hugging FaceのEAGLE-Corpにあるドラフト、AMD MI355X向けのROCmビルド。
- データとプライバシー
- すべて自分のGPUで動き、ホスト型サービスは関わりません。Dockerの例はポート30000を127.0.0.1にだけ公開し、クイックスタートではAPIキーを設定しないので、サーバーを外に出す前に設定してください。
- 大規模利用時のコスト
- ライセンスの基準未満なら料金はかかりません。12か月の売上が2,000万米ドル(US$20 million)を超える企業や競合製品を提供する企業は商用契約が必要で、その価格は公開されていません。
- 制限
- 測定はB300とMI355Xのみ。マルチノードとパイプライン並列は未検証。vLLMとTokenSpeedは同時64リクエストを超えると通常のデコードより遅くなりうる。決定的モードは高負荷時に投機を無効にする。
良い点
- ライブで測ったコストでドラフトツリーの大きさを決めるので、投機を有効なままにできる
- 単一リクエストが最大3.42倍速く、出力はターゲットと一致
- トークン/秒、正しさの確認、測定方法を載せたサポートマトリクスを公開
- SGLang、vLLM、TokenSpeedで、NVIDIAとAMDの両方で動く
気になる点
- ソース公開型:商用利用は売上2,000万米ドル(US$20 million)まで、競合する提供物は不可
- 同時64リクエストでは効果が約1.1〜1.4倍に縮む
- 公開時のドラフトモデルは1つ、ほかのハードウェアは未検証
- Eagle独自のwheelインデックスにあるパッチ適用済みエンジンに固定
おすすめの人
ライセンスの売上基準を下回り、B300かMI355XのGPUでQwen3.8-27Bを低〜中程度の同時実行数で提供するチーム。
EAGLE-4の代替
EAGLE-4:よくある質問
- EAGLE-4は使う価値があるか?
- EAGLE-4は私たちが読んだ中で最も丁寧に測定された投機的デコーディングの公開物で、SGLangでは単一リクエストが3.42倍速くなりますが、公開モデルは1つだけ、効果は主に低い同時実行数で出るもので、売上2,000万米ドル(US$20 million)で効いてくるライセンスが付いています。 評価は5点満点中3.9点です。
- EAGLE-4の料金は?
- Eagle 4 Source-Available Licenseの下で、任意の12か月の売上が2,000万米ドル(US$20 million)未満で、競合製品を提供していない組織は無料で使えます。それを超える場合は別の商用ライセンスが必要で、価格は非公開です。
- EAGLE-4の欠点は?
- ソース公開型:商用利用は売上2,000万米ドル(US$20 million)まで、競合する提供物は不可; 同時64リクエストでは効果が約1.1〜1.4倍に縮む; 公開時のドラフトモデルは1つ、ほかのハードウェアは未検証; Eagle独自のwheelインデックスにあるパッチ適用済みエンジンに固定.
- EAGLE-4は誰に向いているか?
- ライセンスの売上基準を下回り、B300かMI355XのGPUでQwen3.8-27Bを低〜中程度の同時実行数で提供するチーム。
- チームや本番環境でEAGLE-4を使うと費用はいくらか?
- ライセンスの基準未満なら料金はかかりません。12か月の売上が2,000万米ドル(US$20 million)を超える企業や競合製品を提供する企業は商用契約が必要で、その価格は公開されていません。
- EAGLE-4は企業データを扱っても安全か?
- すべて自分のGPUで動き、ホスト型サービスは関わりません。Dockerの例はポート30000を127.0.0.1にだけ公開し、クイックスタートではAPIキーを設定しないので、サーバーを外に出す前に設定してください。
- EAGLE-4の代わりになるものは?
- 当サイトでレビューした中で最も近い代替はSGLang, vLLM 、 TensorRT-LLMです。
回答確認日:2026年11月21日