本文へスキップ
ReviewRamble

週刊ブリーフ

AIのレビューを、あなたの受信箱に。

  • ツール、モデル、MCPサーバー、リポジトリの新しいレビュー(結論を最初に)
  • 変更があったときに再確認した価格と評価
  • 公開された新しい分析記事

モデル、エージェント、MCPサーバー、そして本当に時間をかける価値のあるツール。

週に1通です。配信停止は各メールのリンクからできます。 メールアドレスの利用について

大規模言語モデル

大規模言語モデル(large language model、LLM)とは、数十億のパラメーターを持ち、大量のテキストで次のトークンを予測するよう学習したニューラルネットワークです。これにより、文章を書く、質問に答える、要約する、指示に従うといったことができます。

別名: LLM, LLMs

執筆 Divya Sharma · 2026年11月15日確認 · レビューの方法

LLM は、チャットアシスタント、コーディングエージェント、AI 製品のほとんどのテキスト機能を動かすエンジンです。テキストを送ると、1 トークンずつテキストを返します。

仕組み

現在のほぼすべての LLM は transformer アーキテクチャを使っています。事前学習の間に非常に大きなテキストのコーパスを読み、それまでのすべてから次のトークンを予測することを学びます。この単純な目的から、翻訳し、質問に答え、コードを書けるモデルが生まれます。ファインチューニングや RLHF などの追加の学習によって、生のモデルは指示に従うアシスタントになります。

「大規模」の意味

決まった境目はありません。2020 年に発表された GPT-3 は 1,750 億のパラメーターを持ち、この呼び名はその規模以上のモデルに定着しました。数十億のパラメーターを持つモデルは、通常小規模言語モデルと呼ばれます。

限界

LLM が知っているのは、ナレッジカットオフまでの学習データに含まれていたことだけで、誤ったことを流暢に述べることもあります。また、見えるのはコンテキストウィンドウに収まるものだけです。開発者は通常、生の出力を信頼するのではなく、モデルの周りに検索、ツール、チェックを加えます。現在のモデルはモデルのディレクトリで比較できます。

関連用語

トークン(LLM)
トークン(LLM)とは、言語モデルが読み書きするテキストの基本単位で、多くの場合、単語、単語の一部、句読点、またはバイトです。料金、速度、コンテキストの上限はすべてトークンで数えます。
Transformer(アーキテクチャ)
Transformerとは、2017年に発表された、再帰の代わりにattentionを使って系列を処理するニューラルネットワークのアーキテクチャです。現在のほぼすべての大規模言語モデルと、多くの画像や音声のモデルの基盤になっています。
小規模言語モデル(SLM)
小規模言語モデル(small language model、SLM)とは、パラメータが比較的少なく、通常は数十億以下の言語モデルで、ノートPC、スマートフォン、1枚のGPUで、大規模なモデルより低いコストで動くように作られています。
事前学習
事前学習(pretraining)とは、モデルの学習の最初で最大の段階で、タスク固有の調整を行う前に、ラベルのない非常に大きなデータセットから、通常は次のトークンを予測することで一般的なパターンを学ぶことです。
コンテキストウィンドウ
コンテキストウィンドウ(context window)とは、言語モデルが一度に考慮できるテキストの最大量で、トークン数で数えます。システムプロンプト、会話、文書、ツールの結果、モデルが書く応答が含まれます。
ハルシネーション(AI)
ハルシネーション(hallucination)とは、流暢で自信ありげに聞こえるものの、誤っている、情報源に裏付けられていない、あるいは作り話である AI モデルの出力です。架空の引用文献、発言、統計、API の関数などがその例です。

出典