基盤モデル
基盤モデル(foundation model)とは、幅広いデータで大規模に学習した大きなモデルで、1 つのタスクのために作られるのではなく、プロンプトやファインチューニングによってさまざまな下流のタスクに適応させられるものです。
執筆 Divya Sharma · 2026年11月15日確認 · レビューの方法
この言葉は 2021 年、Stanford の研究者が、こうしたモデルの可能性とリスクについての長いレポートの中で作りました。BERT、DALL-E、GPT-3 などを例に挙げ、多くのアプリケーションが 1 つの土台の上に作られることを強調するために「foundation」(基盤)という言葉を選びました。
なぜ重要か
今日のほとんどの AI 製品は、自前のモデルを学習させていません。基盤モデルから始め、プロンプトを書いたり、検索を加えたり、自社のデータでファインチューニングしたりして適応させます。コストのかかる 1 回の事前学習が、何千もの用途に役立つのです。
基盤モデルと LLM の違い
大規模言語モデルは基盤モデルの一種です。基盤モデルのほうが広い言葉で、幅広く学習してから適応させるものであれば、画像、音声、動画、マルチモーダルモデルも基盤モデルになりえます。
限界
Stanford の著者らは均質化について警告しています。非常に多くのシステムが同じ土台を共有しているため、基盤モデルの欠陥や偏りは、そこから適応させたすべてのものに受け継がれます。また、この言葉は決まったサイズやアーキテクチャではなく、モデルの使われ方を表すものなので、呼び方は企業によって異なります。
関連用語
- 大規模言語モデル
- 大規模言語モデル(large language model、LLM)とは、数十億のパラメーターを持ち、大量のテキストで次のトークンを予測するよう学習したニューラルネットワークです。これにより、文章を書く、質問に答える、要約する、指示に従うといったことができます。
- ファインチューニング
- ファインチューニング(fine-tuning)とは、事前学習済みのモデルを、より小さなタスク特化のデータセットでさらに学習させることです。一から学習させることなく、モデルに特定の技能、形式、口調、分野を身につけさせます。
- 事前学習
- 事前学習(pretraining)とは、モデルの学習の最初で最大の段階で、タスク固有の調整を行う前に、ラベルのない非常に大きなデータセットから、通常 は次のトークンを予測することで一般的なパターンを学ぶことです。
- ベースモデル
- ベースモデル(base model)とは、指示チューニングや人のフィードバックによる学習を受ける前の、事前学習を終えたばかりの言語モデルです。指示に従ったり会話をしたりするのではなく、与えられたテキストの続きを書きます。
- マルチモーダルモデル
- マルチモーダルモデルとは、テキスト、画像、音声、動画など複数の種類のデータを、別々のシステムではなく1つのモデルの中で受け取り、場合によっては生成できるAIモデルです。
- フロンティアモデル
- フロンティアモデル(frontier model)とは、その時点で利用できる最も高性能な汎用 AI モデルの 1 つで、通常は資金力のある開発企業が作ったものです。相対的な言葉であり、AI 安全性の政策でも使われます。