LoRA
LoRA(low-rank adaptation、低ランク適応)とは、モデルの元の重みを固定し、各層に追加した小さな低ランク行列を学習させるファインチューニング手法です。変更されるパラメータがはるかに少なく、必要なGPUメモリも大幅に減ります。
別名: low-rank adaptation, QLoRA
執筆 Divya Sharma · 2026年11月16日確認 · レビューの方法
完全なファインチューニングはモデルのすべての重みを更新するため、重み、その勾配、オプティマイザーの状態のためのメモリが必要です。Hu et al.が2021年に発表したLoRAは、ベースの重みに手を付けません。選んだ重み行列ごとに、積が低ランクの更新になる2つの細い行列を学習し、その更新を固定された重みに加えます。学習するのは細い行列だけです。
使われる理由
学習される部分はアダプターと呼ばれ、小さなものです。1つのベースモデルと、顧客やタスクごとの多数のアダプターを保持し、読み込み時に切り替えられます。論文によると、GPT-3 175BをAdamで完全にファインチューニングする場合と比べて、LoRAは学習対象のパラメータを10,000分の1に、GPUメモリを3分の1に減らしました。更新は重みに統合し直せるため、統合したLoRAモデルは元のモデルと同じ速度で動きます。
QLoRA
QLoRA(Dettmers et al., 2023)は、LoRAと量子化を組み合わせたものです。ベースモデルは4-bit形式で固定して保存し、勾配はそれを通って、より高い精度で保持されたLoRAアダプターに流れます。著者らは、この方法で65Bパラメータのモデルを1枚の48GB GPUでファインチューニングしたと報告しています。大規模なオープンウェイトモデルを1枚のカードで調整する際の一般的な方法です。
限界
LoRAはモデルが変化できる幅を制限するため、挙動の非常に大きな変化や新しい言語には、依然として完全なファインチューニングが必要になる場合があります。ランクや、どの層にアダプターを付けるかは、調整が必要な設定です。LoRAはいくつかあるパラメータ効率の良いファインチューニング手法の1つで、UnslothやAxolotlなどのツールが対応しています。
関連用語
- ファインチューニング
- ファインチューニング(fine-tuning)とは、事前学習済みのモデルを、より小さなタスク特化のデータセットでさらに学習させることです。一から学習させることなく、モデルに特定の技能、形式、口調、分野を身につけさせます。
- パラメータ効率の良いファインチューニング(PEFT)
- パ ラメータ効率の良いファインチューニング(parameter-efficient fine-tuning、PEFT)とは、事前学習済みモデルのうち、新しく加えた、または選んだ少数のパラメータだけを学習させ、残りを固定したまま適応させる手法です。完全なファインチューニングに必要なメモリ、計算、ストレージを削減します。
- 量子化
- 量子化(quantization)とは、モデルの重み、場合によっては活性化を、16ではなく8や4など少ないビット数で保存する技術です。モデルに必要なメモリが減り、多くの場合は速く動きますが、精度は多少犠牲になります。
- 教師ありファインチューニング(SFT)
- 教師ありファインチューニング(supervised fine-tuning、SFT)とは、事前学習済みのモデルを、プロンプトの例と望ましい応答のペアでさらに学習させることです。ベースモデルを指示に従うモデルに変える、通常の最初のステップです。
- VRAM
- VRAMとは、グラフィックスカード上のメモリです。AIの作業ではモデルの重み、KV cache、作業用のデータを保持し、モデルがVRAMに収まるかどうかで、通常それを 動かすのに必要なGPUが決まります。