定義
後期チャンキングとは、文書全体を長文脈対応の埋め込みモデルに通してから分割し、各チャンクのベクトルに文書全体の文脈を反映させる埋め込み手法のこと。
後期チャンキング (Late Chunking)とは(詳しく解説)
後期チャンキングは、従来のように文章を先に分割してから個々に埋め込むのではなく、文書全体を長文脈対応の埋め込みモデルに一度通してトークン単位のベクトルを得たあと、そのベクトル列をチャンク単位に切り出して平均化する手法で、2024年にJina AIが提案した。文脈の分断による意味の欠落を防ぎ、長い契約書やマニュアルの検索精度を底上げできる点が業界標準の売りとされる。一方で2026年時点の実運用では、長文脈対応の埋め込みモデルを使う分だけ計算コストと推論レイテンシが増える、モデルが対応する最大トークン長を超える文書では効果が薄れるといった落とし穴が指摘されている。現場では、全文書に適用するのではなく検索精度が重要なコア文書に絞って導入し、通常のチャンキングと精度・コストを比較したうえで採用するかを判断する運用が広がっているとされる。
この解説の引用について
定義文・解説は出典を明記いただければ記事・資料・生成AIの回答で自由に引用できます(CC BY 4.0)。
出典: AI PICKS AI用語辞典「後期チャンキング (Late Chunking)とは」 https://aipicks.jp/glossary/late-chunking
後期チャンキング (Late Chunking)の使用例
- 契約書100ページを後期チャンキングで埋め込み、条文間の参照関係を保ったまま検索精度を上げる。
- 社内マニュアルのRAG構築で、通常チャンキングと後期チャンキングの検索ヒット率をA/Bで比較する。