SGLangとは？
SGLang は、言語モデル、視覚言語モデル、拡散モデルをサービングするためのフレームワークで、非営利団体の LMSYS がホストしています。最もよく知られた機能は RadixAttention で、長いシステムプロンプトのように冒頭が同じリクエスト同士で処理を再利用します。
OpenAI 互換サーバー、複数 GPU と複数ノードでの並列化、量子化、投機的デコーディング、構造化出力を備えています。RTX カードから B300 や GB300 までの NVIDIA GPU、MI300X から MI355X までの AMD Instinct、Google の TPU、Intel と Huawei Ascend のハードウェアで動作し、verl、slime、AReaL といった RL 学習フレームワークの内部でロールアウトエンジンとして使われています。
リリースはおよそ 2 週間ごとで、v0.5.22 は 2026年10月19日に公開されました。
SGLangは使う価値があるか？
SGLang は、共有プレフィックスの多いサービングでは vLLM に対する最も有力な代替であり、同時にセキュリティ面で最も注意を要する選択肢でもあります。GitHub のスターは約 37,700 で、ほぼ 2 週間ごとにリリースを出しています。RadixAttention はキャッシュしたプロンプトのプレフィックスを木構造で保持するため、繰り返されるシステムプロンプト、few-shot の例、複数ターンの履歴をリクエストごとに計算し直さずに済みます。
この設計はエージェントと強化学習に向いています。エージェントのループは同じ長いコンテキストを何度も送り直し、RL の学習は共有プロンプトから膨大な数のロールアウトを生成します。verl、slime、AReaL、Google の Tunix が生成に SGLang を使うのはそのためです。対応ハードウェアは今では幅広く、一般向けの RTX カードから B300、MI355X、TPU v7、Ascend NPU まで及び、NVIDIA Dynamo、llm-d、Ray Serve でオーケストレーションできます。
弱点はセキュリティです。2026年に CERT/CC はリモートコード実行の欠陥について複数の注意喚起を公開しました。その 中には、悪意のある GGUF モデルファイルを通じたテンプレートインジェクションで評価 9.8 の CVE-2026-5760 が含まれます。さらに 5 月には Antiproof が新たに 3 件(CVE-2026-7301、7302、7304)を公表し、うち 2 件は安全でない pickle のデシリアライズに関わるもので、メンテナーからの応答はなくパッチも存在しないと述べました。GitHub のアドバイザリデータベースは現在、3 件すべてを重大と分類し、0.5.12 までのバージョンが影響を受けるとしていますが、修正済みのリリースは示していません。現行リリースは v0.5.22 で、10月6日にマージされた変更により、サーバーが 0.0.0.0 で動作している場合でもマルチモーダルスケジューラのソケットはループバックに固定されます。テンプレートの不具合はその後コード上で修正されましたが、SGLang 自身のサービング例は 0.0.0.0 にバインドしており、前段に認証を置かないまま信頼できないネットワークにサーバーをさらすべきではありません。
vLLM との比較でのトレードオフはよく知られたものです。チューニングにはサービングの経験が前提となり、トラッカーには未解決の issue と pull request が約 6,000 件あります。RadixAttention でどれだけ節約できるかは自社のトラフィックで共有プレフィックスがどれだけ長いかによるため、公開されたどのグラフよりも実際のリクエストでのベンチマークのほうが価値があります。
真価を発揮する場面
8 GPU の H100 ノード 1 台で、社内のエージェント群にオープン モデルを提供するプラットフォームエンジニア
エージェントの呼び出しごとに長いシステムプロンプトとツール一覧が繰り返される状況で、レイテンシと GPU コストを下げる
lmsysorg/sglang の Docker イメージを OpenAI 互換サーバーで動かし、エージェントの接続先をそこに向けます。RadixAttention が呼び出しをまたいで共有プレフィックスを再利用します。ソフトウェアは無料で、コストはノードです。ノードは認証の背後のプライベートネットワークに置く必要があります。
verl または slime で RL のポストトレーニングを行う ML 研究者
学習用 GPU を遊ばせない速さでロールアウトを生成する
どちらのフレームワークも SGLang を生成エンジンとして使い、プロンプトのプレフィックスを共有しながらステップ間で重みをその場で更新します。無料です。過去のデシリアライズの不具合は重み更新のエンドポイントにあったため、これらは共有ネットワークから切り離してください。
AMD MI300X に統一した企業のインフラ責任者
CUDA 専用ソフトウェアに頼らずにチャットモデルをセルフホストする
SGLang は MI300X から MI355X までを対応プラットフォームとして挙げ、専用のドキュメントを用意しています。Apache 2.0 のためライセンス料はかかりません。エンタープライズサポートは LMSYS への問い合わせとなり、価格は公表されていません。
導入前に確認すること
- 導入
- docker pull lmsysorg/sglang:latest、または Python 3.11 以降で uv pip install sglang を実行し、Hugging Face のモデルパスを指定してサーバーを起動します。重みと KV キャッシュを載せられるメモリを持つ、対応 GPU、TPU、NPU が必要です。
- 連携
- OpenAI 互換 API、NVIDIA Dynamo、llm-d、Ray Serve を通じたデプロイ、RL フレームワークの verl、slime、AReaL、Tunix、Miles、投機的デコーディング用のドラフトモデルを学習する SpecForge に対応しています。
- データとプライバシー
- ホスト型サービスはなく、すべて自社のハードウェア上で動作します。2026年の複数の CVE では、HTTP や ZMQ のポートに到達できる場合や信頼できないモデルファイルを読み込んだ場合にリモートコード実行が可能になるため、プライベートネットワークにバインドし、認証を追加し、信頼できる提供元のモデルだけを読み込んでください。Apache 2.0 です。
- 大規模利用時のコスト
- ソフトウェアは無料で、コストはモデルの重みと KV キャッシュに合わせたアクセラレータです。LMSYS は有料版を販売しておらず、エンタープライズサポートとコンサルティングは sglang@lmsys.org を通じて手配します。
- 制限
- 未解決の issue と pull request が約 6,000 件あります。新しいモデルの一部は vLLM に先に対応します。2026年5月に Antiproof が公表した 3 件の CVE について、GitHub のアドバイザリは 0.5.12 までのバージョンが影響を受けるとしていますが、修正済みのバージョンは示していません。
良い点
- RadixAttention が共有プロンプトのプレフィックスを再利用する
- NVIDIA 以外にも幅広いハードウェアに対応
- RL フレームワークで広く使われるロールアウトエンジン
- OpenAI 互換サーバー
気になる点
- 2026年に重大な CVE が複数あり、公表への対応が遅い
- エコシステムは vLLM より小さい
- チューニングにはサービングの経験が前提となる
- 未解決の issue と pull request が約 6,000 件
おすすめの人
エージェントや複数ターンのチャットなど、プロンプトの再利用が多いオープンモデルをサービングするチームに向いています。
SGLangの代替
SGLang：よくある質問
- SGLangは使う価値があるか？
- SGLang は同じ長いプロンプトを何度も送り直すエージェントや RL のワークロード向けに作られており、厳重に閉じたネットワークの内側に置くべきものです。 評価は5点満点中4.4点です。
- SGLangの料金は？
- Apache 2.0 ライセンスのもとで無料のオープンソースです。
- SGLangの欠点は？
- 2026年に重大な CVE が複数あり、公表への対応が遅い; エコシステムは vLLM より小さい; チューニングにはサービングの経験が前提となる; 未解決の issue と pull request が約 6,000 件.
- SGLangは誰に向いているか？
- エージェントや複数ターンのチャットなど、プロンプトの再利用が多いオープンモデルをサービングするチームに向いています。
- チームや本番環境でSGLangを使うと費用はいくらか？
- ソフトウェアは無料で、コストはモデルの重みと KV キャッシュに合わせたアクセラレータです。LMSYS は有料版を販売しておらず、エンタープライズサポートとコンサルティングは sglang@lmsys.org を通じて手配します。
- SGLangは企業データを扱っても安全か？
- ホスト型サービスはなく、すべて自社のハードウェア上で動作します。2026年の複数の CVE では、HTTP や ZMQ のポートに到達できる場合や信頼できないモデルファイルを読み込んだ場合にリモートコード実行が可能になるため、プライベートネットワークにバインドし、認証を追加し、信頼できる提供元のモデルだけを読み込んでください。Apache 2.0 です。
- SGLangの代わりになるものは？
- 当サイトでレビューした中で最も近い代替はvLLM 、 TensorRT-LLMです。
回答確認日：2026年10月26日