本文へスキップ
ReviewRamble

週刊ブリーフ

AIのレビューを、あなたの受信箱に。

  • ツール、モデル、MCPサーバー、リポジトリの新しいレビュー(結論を最初に)
  • 変更があったときに再確認した価格と評価
  • 公開された新しい分析記事

モデル、エージェント、MCPサーバー、そして本当に時間をかける価値のあるツール。

週に1通です。配信停止は各メールのリンクからできます。 メールアドレスの利用について

ハルシネーション(AI)

ハルシネーション(hallucination)とは、流暢で自信ありげに聞こえるものの、誤っている、情報源に裏付けられていない、あるいは作り話である AI モデルの出力です。架空の引用文献、発言、統計、API の関数などがその例です。

別名: confabulation, invented answers, AI hallucination

執筆 Divya Sharma · 2026年11月15日確認 · レビューの方法

言語モデルは、事実を確認するのではなく、ありそうなテキストを生成するように訓練されています。モデルが答えを知らないときでも、最もありそうな続きが、自信に満ち、具体的で、間違ったものになることがあります。それがハルシネーションです。モデルは何かを知覚しているわけではなく隙間を埋めているだけなので、「confabulation」(作話)という言葉を好む研究者もいます。

よくある形

モデルは論文や裁判例をでっち上げたり、発言を別の人物のものとしたり、誤った日付を示したり、存在しないライブラリの関数を呼び出したりします。要約では、与えられた文書にない細部を付け加えることがあります。この 2 つ目の種類は、自分のデータの上に何かを作る場合に最も重要です。ユーザーは回答が情報源から来たものだと思い込むからです。

なぜ起こるか

Kalai らによる 2025 年の論文は、学習と評価が推測に報いていると主張しています。「わかりません」に点を与えないテストは、モデルに推測を促します。学習データの欠落、ナレッジカットオフ、誤った前提を含むプロンプトは、いずれもリスクを高めます。

減らす方法

現在の方法でハルシネーションを完全になくせるものはありません。役立つのは次のような方法です。与えたテキストに基づいてモデルが答えるようにする検索拡張生成、確認できる引用を求めること、ツールの結果で回答をグラウンディングすること、モデルが自信がないと言えるようにすること、ユーザーが見る前に出力を確認するガードレールです。発生率はモデル、話題、プロンプトによって異なるので、一般的な主張を信じるのではなく、自分のタスクで LLM 評価を行って測定してください。

関連用語

検索拡張生成(RAG)
検索拡張生成(retrieval-augmented generation、RAG)とは、システムがまず文書の集まりから質問に関連する文章を検索し、その文章を言語モデルに渡して、それに基づいて回答させるパターンです。
グラウンディング
グラウンディング(grounding)とは、言語モデルの回答を、検索結果、文書、データベースなど、確認できる特定の情報源に結びつけることです。主張が学習データだけでなく、与えられた根拠に基づくようにします。
ガードレール(AI)
ガードレール(guardrails)とは、言語モデルの周りに置く実行時のチェックです。入力と出力を調べ、ブロックしたり、書き換えたり、別の経路に回したりします。これにより、アプリケーションが話題から外れず、有害なコンテンツを避け、モデルだけでは確実に守れないルールに従うようにします。
LLM 評価
LLM 評価(LLM evaluation)は evals とも呼ばれ、モデルや AI アプリケーションをテストケースのセットで動かし、定めた基準に照らしてコード、人、または別のモデルで出力を採点することで、タスクをどれだけうまくこなすかを測ることです。
ナレッジカットオフ
ナレッジカットオフ(knowledge cutoff)とは、モデルが情報をほとんど、またはまったく持たなくなる境目の日付です。学習データがおおよそその時点までに集められたためです。それ以降の出来事は、プロンプトで与えない限りわかりません。

出典