ステップ 15 / 22
ファインチューニング
オープンモデルを自分のデータ、トーン、タスクに適応させます。 ファインチューニングは、文体や限られたスキルを安く調整できます。事実を追加する方法としては不向きで、それは検索の役割です。
執筆： Andrew Miller · 2026年10月19日確認 · レビューの方法
選び方
- GPU 1基と少ない予算：効率重視で作られたLoRAツール。
- 再現性のあるマルチGPU学習：設定ファイル駆動のフレームワーク。
- 画像の作風やキャラクター：拡散モデル向けのLoRAトレーナー。
確認すべきポイント
選択肢を分けるポイントを、重要な順に並べています。
01
まずLoRAかQLoRA、フルファインチューニングは理由がある場合のみ
LoRAは凍結したモデルの上に小さなアダプターの重みを学習させます。QLoRAは同じことを4ビットで読み込んだモデルで行うので、はるかに少ないメモリに収まります。フルファインチューニングはすべての重みを更新するもので、モデルの振る舞いを大きく変えなければならない場合にだけ見合います。まずLoRAを試しましょう。安く、試行を素早く繰り返せ、アダプターは提供時に差し替えられます。Together AIのようなマネージドサービスがLoRAを既定にしているのも同じ理由です。
02
GPUメモリは借りる前に計算する
メモリが、どのGPUが何台必要かを決めます。7BのモデルについてLlamaFactoryが公開している見積もりは、役に立つ目 安です。混合精度のフルファインチューニングで約120 GB、純粋なbf16で60 GB、LoRAで16 GB、4ビットのQLoRAで6 GBです。おおよそパラメータ数に比例させ、長いシーケンスのための余裕を加えましょう。Unslothの2倍速くメモリが70%少ないといったベンダーの速度やVRAMの主張は、モデルによって変わる上限として扱うのが無難です。
03
実際に必要になる学習手法
SFT（回答例による教師ありファインチューニング）で、文体や形式の作業のほとんどはまかなえます。DPO、KTO、ORPOなどの選好の手法は、2つの回答のどちらがよいかをモデルに教えます。GRPOなどの強化学習の手法は、数学やコードのような検証可能なタスクで正しい回答に報酬を与えます。今必要な手法と、次に必要になりそうな手法にツールが対応しているかを確認してください。たとえばLlamaFactoryはGRPOのユーザーを別のプロジェクトに案内していますが、TRL、Axolotl、Unslothは直接対応しています。
04
GPU 1基か複数か
GPU 1基での効率とマルチGPUでの規模は、別の問題です。Unslothは1枚のカードに実行を詰め込むことを軸に作られています。AxolotlはFSDP2、DeepSpeed、マルチノード、シーケンス並列を標準機能として扱っており、モデルやコンテキストが1基のGPUに収まらなくなったときに重要になります。TRLはDDP、DeepSpeed、FSDPをAccelerateから受け継いでいます 。GPU 1基を超えて拡大するつもりなら、分散の手順が後付けではなく文書化されているツールを選びましょう。
05
設定ファイル、コード、UI
YAML駆動のツール（Axolotl、LlamaFactory）は、実行を再現しやすく共有しやすくします。多くのモデルカードが、使ったAxolotlの設定をそのまま公開しています。ライブラリ（TRL、Transformers）は、研究や変則的なパイプラインのために学習ループを完全に制御できますが、そのぶんコードが増えます。UI（LlamaFactoryのLlamaBoard、Unsloth Studio、AI Toolkit）は、実験のハードルを下げます。6か月後に誰がそのジョブを再実行するかで選びましょう。
06
対応モデルと新しいモデルへの対応の速さ
ツールが役に立つのは、使いたいベースモデルに、そのチャットテンプレートや画像部分も含めて対応している場合だけです。通常は新しいアーキテクチャにまずTransformersが対応し、学習ツールが続きます。LlamaFactoryは100を超える言語モデルと視覚言語モデルを掲載しています。現在の一覧だけでなく、直近のいくつかの主要なオープンモデルにどれだけ早く対応したかを変更履歴で確認してください。
07
提供環境への書き出しの経路
学習は仕事の半分にすぎません。結果をマージし、推論エンジンが読み込める形式で書き出せるかを確認してください。vLLMとSGLangにはSafetensors、llama.cppとOllamaにはGGUFです。UnslothはGGUFを直接書き出せ、Together AIのようなマネージドサービスでは重みをダウンロードするか、専用のエンドポイントで提供できます。安く提供できない実行は無駄になります。
08
ツールとベースモデルのライセンス
ここで紹介するフレームワークのほとんどはApache 2.0かMITですが、UnslothのオプションのStudio UIはAGPL-3.0で、製品に組み込む場合には重要です。より大きな制約は通常ベースモデルです。そのライセンスは、利用制限や命名のルールを含め、あなたのファインチューニング版に引き継がれます。
選択肢の違い
選択肢は4つの系統に分かれます。学習ライブラリ（TRL、Transformers）は自分で組み立てるPythonのコードです。新しい手法に最初に対応し、完全な制御ができますが、メモリの調整と分散の設定は自分の責任です。レシピ型のフレームワーク（Axolotl、LlamaFactory）は、それらのライブラリをYAMLの設定やWeb UIで包むので、実行はファイル1つとコマンド1つで済みます。AxolotlはマルチGPUの規模に、LlamaFactoryはモデルの幅広さとノーコードのUIに寄っています。効率優先のツール（Unsloth）はGPUカーネルを書き直し、より大きなモデルを1枚のカードに収めます。
2つの例外的な存在がこれを補います。AI Toolkitは画 像や動画の拡散モデル向けのLoRAを学習させるもので、言語モデルの調整とは別の仕事です。Together AIのようなマネージドのファインチューニングAPIは、GPUを完全に不要にします。データをアップロードし、学習トークン単位で支払い、エンドポイントかダウンロード可能な重みを受け取ります。ただし手法は少なく（たとえばGRPOはマネージドサービスの外にあります）、制御もしにくくなります。
8 個のツールを比較
当サイトの評価順です。各レビューで出典、料金、評価の詳細を確認できます。
| ツール | 評価 | 当サイトの評価 | 向いている用途 | 料金 |
|---|---|---|---|---|
| Hugging Face Transformersリポジトリ | 4.8/5 | ほぼすべてのオープンモデル向けツールがTransformersからモデルコードを読み込んでいるため、理解しておくことは必須ですが、本番環境の配信に直接使われることは稀です。 | あらゆるレベルでオープンモデルを扱うPython開発者や研究者に適しています。 | Apache 2.0ライセンスに基づく無料でオープンソースのソフトウェアです。Hugging FaceはHubの有料プランおよびホステッド推論を個別に販売しています。 |
| Unslothリポジトリ | 4.6/5 | Unsloth は 24 GB のカード 1 枚を本格的に使えるファインチューニング環境に変えますが、2 台目のサーバーが必要になった時点で当然の選択肢ではなくなります。 | 限られた GPU ハードウェアでオープンモデルをファインチューニングする個人や小規模チームに向いています。 | 無料です。コアライ ブラリは Apache 2.0、Studio の UI は AGPL-3.0 です。複数 GPU と複数ノードでの学習向けに有料の Pro と Enterprise がありますが、価格は公開されていません。 |
| TRLリポジトリ | 4.5/5 | TRLは、より扱いやすいファインチューニングツールが内部で利用している事後学習コードです。学習ループそのものに変更を加える必要がある場合は、直接これを使用してください。 | 独自の事後学習パイプラインを構築する機械学習エンジニアおよび研究者に適しています。 | Apache 2.0ライセンスに基づく無料でオープンソースのソフトウェアです。 |
| Together AIツール | 4.5/5 | Togetherは$15のAPIチャージから予約制のH100クラスタまで、あらゆる段階のオープンモデルを1つの請求で動かせます。専用ハードウェアは専業ホストより安価です。 | オープンモデルで開発し、API呼び出しからファインチューニング、自前のGPUへと1つのプロバイダで移行したいチームに向いています。 | 前払い制で、最初の購入は最低$15、無料トライアルはありません。100万トークンあたり、たとえばgpt-oss-120Bは入力$0.15／出力$0.60、Kimi K3は$3／$15です。バッチは最大50%引きです。専用エンドポイント：H100 1時間$5.49、B200 1時間$8.99。GPUクラスタ：H100 オンデマンド1時間$3.99、プリエンプティブル$1.99。ファインチューニングは100万トークンあたり$0.34からです。 |
| Axolotlリポジトリ | 4.3/5 | GPU 1 枚では足りなくなったときにファインチュー ニングが向かう先が Axolotl です。YAML ファイル一つで、あらゆる並列化戦略が使え、それに見合う学習コストがあります。 | 特に複数の GPU にまたがって、繰り返し可能なファインチューニングを行う実務者。 | Apache 2.0 ライセンスの無料オープンソースです。 |
| LlamaFactoryリポジトリ | 4.3/5 | LlamaFactoryは、100以上のオープンモデルに対するファインチューニングをWebフォームの操作へと簡略化します。バージョンを固定した本番パイプラインよりも、実験用途に適しています。 | グラフィカルインターフェースを通じて多種多様なオープンモデルをファインチューニングしたいユーザーに適しています。 | Apache 2.0ライセンスに基づく無料でオープンソースのソフトウェアです。 |
| Roboflowツール | 4.3/5 | Roboflowは、工場や倉庫のチームを写真のフォルダから動く検出モデルまで、他の何よりも速く連れて行ってくれます。ただし誰かが、画像を利用するデフォルトの権利をオフにすることが条件です。 | MLパイプラインを構築せずに、独自の物体検出や検査のモデルを必要とするオペレーション、製造、プロダクトのチーム。 | Free（月10クレジット）、Coreは月$39（20クレジット）から月$1,399（500クレジット）まで、1クレジットあたり$3.90から$2.86です。Enterpriseは個別見積もりです。セルフホストの推論はどのプランでも無料です。 |
| AI Toolkitリポジトリ | 4.2/5 | 新しいオープンな画像や動画のモデルへの対応がたいてい最初に入るのが AI Toolkit です。GPU と忍耐は自分で用意する前提です。 | オープンな画像や動画のモデル向けに LoRA を学習させるクリエイター。 | MIT の無料オープンソースです。Ostris Cloud は設定済みの GPU を秒単位で貸し出しており、$0.71/時（A40 48 GB）から $2.99/時（RTX PRO 6000 96 GB）です。 |
仕様の比較
このステップで重要な仕様です。2026年10月19日に確認しました。導入前に提供元のサイトで確認してください。
| ツール | インターフェース | 手法 | LoRA / QLoRA / フル | マルチGPU | ハードウェア | ライセンス |
|---|---|---|---|---|---|---|
| Hugging Face Transformers | Pythonライブラリ（Trainer） | 教師あり学習 | フル。PEFT経由のLoRA | DDP, DeepSpeed, FSDP | PyTorchのデバイス | Apache 2.0 |
| Unsloth | Pythonライブラリ、Studio UI、デスクトップ | SFT、DPO、GRPO、GSPO、事前学習 | LoRA、QLoRA、フル、FP8 | 対応（設定はドキュメント参照） | NVIDIA、AMD、IntelのGPU | コアはApache 2.0。StudioはAGPL-3.0 |
| TRL | PythonライブラリとCLI | SFT、DPO、KTO、GRPO、報酬モデル | PEFT経由のLoRA/QLoRA、フル | DDP、DeepSpeed、FSDP（Accelerate） | PyTorchのGPU、AWS Trainium | Apache 2.0 |
| Together AI | マネージドAPI | SFT、DPO（GRPOは別製品） | LoRA（既定）、フル | マネージド | TogetherのGPU | 有料、学習トークン単位 |
| Axolotl | YAMLの設定とCLI | SFT、DPO、KTO、ORPO、GRPO、報酬モデル | LoRA、QLoRA、フル、QAT | FSDP2、DeepSpeed、マルチノード | NVIDIA（Ampere以降）、AMD | Apache 2.0 |
| LlamaFactory | Web UIとYAMLのCLI | SFT, RM, PPO, DPO, KTO, ORPO, SimPO | LoRA、2〜8ビットのQLoRA、freeze、フル | DeepSpeed, FSDP, Megatron | NVIDIA、AMD、Ascend NPU | Apache 2.0 |
| AI Toolkit | YAMLの設定とWeb UI | 拡散モデルのLoRA学習 | LoRA（画像と動画のモデル） | 非公開 | 通常は高性能GPU | MIT |
このステージが使われる場面
- 画像生成パイプライン：まず AI Toolkit から始めます。
- 自社専用のファインチューニング済みモデル：まず Unsloth, Axolotl から始めます。