埋め込みの次元数
埋め込みの次元数(embedding dimension)とは、埋め込みモデルが出力する各ベクトルに含まれる値の数です。次元が多いほど多くの細部を保持できますが、値が 1 つ増えるごとに、1 件あたりの保存、メモリ、検索のコストが増えます。
別名: dimensions, vector dimension, Matryoshka
執筆 Divya Sharma · 2026年11月15日確認 · レビューの方法
埋め込みモデルを選ぶとき、ベクトルの長さも選ぶことになります。OpenAI の text-embedding-3-small はデフォルトで 1536 個の数値を返し、text-embedding-3-large は 3072 個を返します。保存する文書のチャンクはどれもその数だけの数値を持つので、次元数はベクトルデータベースのサイズと、検索ごとの処理量にそのまま掛け算で効いてきます。
重要なのか
重要です。主にコストと速度の面でです。ベクトルが大きければ検索がよくなるとは限りません。単純な長さよりも、モデルの学習のほうが重要です。強力なモデルの小さなベクトルが、弱いモデルの大きなベクトルに勝つこともあります。大きいほうがよいと決めつけず、自分のデータで検索の品質を確かめてください。
ベクトルを短くする
新しいモデルの中には、ベクトルを切り詰めても有用性の大部分を保てるように学習されたものがあります。OpenAI では `dimensions` パラメーターを渡すと、ベクトルの末尾から数値を削れます。これが可能なのは Matryoshka 埋め込みのおかげです。最も重要 な情報を最初の値に詰め込む学習方法です。
実務上の注意
次元数はインデックスを作成した時点で固定されるので、変更するには埋め込みとインデックスを作り直す必要があります。クエリと文書のベクトルは同じ長さでなければなりません。ベクトルあたりの保存容量は数値の形式にも左右されます。ベクトルをより少ないビットに量子化するのは、容量を節約する別の方法です。このサイトでレビューしているモデルの次元数は、埋め込みモデルのガイドに掲載しています。
関連用語
- ベクトルデータベース
- ベクトルデータベース(vector database)とは、埋め込みを元のレコードとともに保存し、クエリのベクトルに最も近い保存済みのベクトルを見つけるデータベースです。数百万の項目にわたって検索を高速に保つため、通常は近似インデックスを使います。
- 埋め込み
- 埋め込み(embedding)とは、テキスト、画像、その他のデータを表す数値の並び(ベクトル)です。意味の似たものほどベクトルが近くなるように作られます。
- Matryoshka embeddings(マトリョーシカ埋め込み)
- Matryoshka embeddings(マトリョーシカ埋め込み)とは、先頭の値ほど多くの情報を持つように学習されたベクトルです。短い長さに切り詰めても有用な検索結果が得られるため、ストレージを節約し、検索を高速化できます。
- 量子化
- 量子化(quantization)とは、モデルの重み、場合によっては活性化を、16ではなく8や4など少ないビット数で保存する技術です。モデルに必要なメモリが減り、多くの場合は速く動きますが、精度は多少犠牲になります。
- 近似最近傍探索
- 近似最近傍探索(approximate nearest neighbor、ANN)とは、保存したすべてのベクトルを調べることなく、クエリに近いベクトルを見つける探索です。厳密に最良の一致を保証しない代わりに、大規模なコレクションではるかに速く検索できます。