インストラクトモデル
インストラクトモデル(instruct model)とは、ベースの言語モデルを、指示とよい回答の組み合わせ、多くの場合は人のフィードバックでもさらに学習させたモデルです。テキストの続きを書くだけでなく、依頼に従います。
別名: instruction-tuned model, -Instruct, chat model
執筆 Divya Sharma · 2026年11月15日確認 · レビューの方法
モデル名の末尾が -Instruct、-it、-chat であれば、通常は同じリリースのベースモデルを指示チューニングした版です。ベースモデルはテキストの続きを書くだけです。インストラクトモデルは、依頼を読んでそれに答えることを学んでいます。
どう作られるか
開発者は事前学習済みのモデルから始め、指示と望ましい回答の例で教師ありファインチューニングを行います。Google の FLAN の論文は、この指示チューニングによって、モデルが見たことのないタスクを格段にうまくこなせるようになることを示しました。その後 OpenAI の InstructGPT の研究は、人がモデルの出力を順位付けし、RLHF でモデルをさらに調整する手順を加えました。新しいモデルでは、代わりに DPO や同様の手法を使うことがよくあります。インストラクトモデルはチャットテンプレート、つまりシステム、ユーザー、アシスタントのターンを示す特殊トークンも学びます。
ベースとインストラクトの違い
ほとんど のアプリにはインストラクトモデルを使ってください。システムプロンプトに従い、質問に答え、ツールを使い、一部の依頼は断ります。中立的な出発点から自分でファインチューニングをする予定の場合や、オートコンプリートのように単純なテキストの続きが欲しい場合は、ベースモデルを選んでください。
注意すべき点
モデルの学習に使われたチャットテンプレートを使ってください。多くのローカル実行ツールは自動で適用してくれますが、テンプレートの誤りは、オープンなインストラクトモデルがおかしな回答をする一般的な原因です。また、指示チューニングは長い回答や拒否など、望まない形で振る舞いを変えることがあり、それだけでモデルがより正直になるわけではありません。
関連用語
- ベースモデル
- ベースモデル(base model)とは、指示チューニングや人のフィードバックによる学習を受ける前の、事前学習を終えたばかりの言語モデルです。指示に従ったり会話をしたりするのではなく、与えられたテキストの続きを書きます。
- 教師ありファインチューニング (SFT)
- 教師ありファインチューニング(supervised fine-tuning、SFT)とは、事前学習済みのモデルを、プロンプトの例と望ましい応答のペアでさらに学習させることです。ベースモデルを指示に従うモデルに変える、通常の最初のステップです。
- RLHF
- RLHF(reinforcement learning from human feedback、人間のフィードバックによる強化学習)とは、言語モデルの回答を人が順位付けしたものを使ってモデルをファインチューニングする手法です。報酬モデルがその選好を学習し、強化学習によってスコアの高い回答に向けてモデルを調整します。
- システムプロンプト
- システムプロンプト(system prompt)とは、アプリケーションがユーザーのメッセージより前に言語モデルに送る指示のまとまりです。会話全体を通じたモデルの役割、ルール、口調、出力形式を設定します。
- 事前学習
- 事前学習(pretraining)とは、モデルの学習の最初で最大の段階で、タスク固有の調整を行う前に、ラベルのない非常に大きなデータセットから、通常 は次のトークンを予測することで一般的なパターンを学ぶことです。