レイトインタラクション(ColBERT)
レイトインタラクション(late interaction)とは、ColBERT が導入した検索の手法です。クエリと各文書を別々に、トークンごとに 1 つのベクトルへエンコードし、最後の安価な手順でそのトークンのベクトルを比べて一致度を採点します。
別名: ColBERT, multi-vector retrieval, late interaction
執筆 Divya Sharma · 2026年11月15日確認 · レビューの方法
transformer で関連度を採点する一般的な方法は 2 つあります。バイエンコーダーは各テキストを 1 つのベクトルに押し込むので速いものの、細部が失われます。クロスエンコーダーはクエリと文書をまとめて読むので正確ですが、大きなコレクションには遅すぎます。レイトインタラクションはその中間に位置します。
仕組み
ColBERT は文書をオフラインで一度だけエンコードし、すべてのトークンについてベクトルを保持します。クエリ時には、クエリを同じ方法でエンコードします。クエリの各トークンについて最も似た文書のトークンを見つけ、その最良の一致を合計してスコアにします。文書のベクトルは事前に計算済みなので、クエリ時に重いモデルの処理が必要なのは短いクエリだけです。2 つのテキストの相互作用は、この最後の比較の段階で遅れて(late)起こります。
ColBERT の論文は、BERT ベースのリランカーに匹敵する正確さを、約 2 桁速い速度で実現したと報告しています。
マルチベクトル検索
マルチベクトル検索は、1 つの項目につき複数のベクトルを保存する手法の広い呼び名です。同じ考え方が今ではページの画像にも使われ、Nemotron ColEmbed V2 などの視覚的な文書検索モデルのように、画像のパッチごとにベクトルを持たせます。
限界
トークンごとにベクトルを保存すると、チャンクごとに 1 つのベクトルよりはるかに多くの容量を使いますが、圧縮で軽減できます。マルチベクトル検索にネイティブで対応しているベクトルデータベースはまだ少数です。多くのチームは、レイトインタラクションを、より安価な最初の検索の後のリランキングの段階として使っています。
関連用語
- クロスエンコーダー
- クロスエンコーダー(cross-encoder)とは、クエリと文書を 1 回の処理でまとめて読み、関連度のスコアを出力するモデルです。別々の埋め込みを比べるより正確ですが、コレクション全体に対して実行するには遅すぎます。
- リランキング
- リランキング(reranking)とは、候補文書の短いリストを受け取り、最初の検索より正確だ が遅いモデルを使って、クエリとの関連度で並べ替える2段目の検索ステップです。
- ベクトル検索
- ベクトル検索(vector search)とは、項目の埋め込みをクエリの埋め込みと比較し、最も近いものを返すことで項目を見つける方法です。共通のキーワードではなく意味で一致する結果が得られます。
- 埋め込み
- 埋め込み(embedding)とは、テキスト、画像、その他のデータを表す数値の並び(ベクトル)です。意味の似たものほどベクトルが近くなるように作られます。
- ベクトルデータベース
- ベクトルデータベース(vector database)とは、埋め込みを元のレコードとともに保存し、クエリのベクトルに最も近い保存済みのベクトルを見つけるデータベースです。数百万の項目にわたって検索を高速に保つため、通常は近似インデックスを使います。
出典
- ColBERT: Efficient and Effective Passage Search via Contextualized Late Interaction over BERT (Khattab and Zaharia, 2020)
- ColBERT: Efficient and Effective Passage Search via Contextualized Late Interaction over BERT (Khattab and Zaharia, 2020)
- ColBERT: Efficient and Effective Passage Search via Contextualized Late Interaction over BERT (Khattab and Zaharia, 2020)