RAGをシンプルに開始し段階的に高度化させる6つの構成案

Hugging Faceなどで経験を持つAIエンジニアのラファエル・ピエール氏は、最初から複雑なシステムを構築するのではなく、利用状況に応じて構成を高度化する方法を提案しています。

手法の1つ目は「全文検索」です。これは入力された単語を文書内から探す一般的な方法で、製品名やエラーコードなど、検索したい言葉が明確な場合に適しています。

2つ目は「クエリリライト」です。LLMを用いて検索語を書き換えることで、「車」と「自動車」のような意味の近い言葉をうまく結びつけられるようにします。

3つ目は「ハイブリッド検索」です。全文検索と、文章の意味の近さを調べる「意味検索」を組み合わせる手法です。

4つ目は「オンデマンド埋め込み」です。検索で見つかった候補だけを、その場で「埋め込み（ベクトル化）」へ変換します。これにより、更新頻度が高いデータへの対応コストを抑えられます。

5つ目は「ホット／コールド階層」です。頻繁に検索される文書だけを事前に処理し、それ以外は必要になった時だけ処理する、中間的な構成です。

6つ目は「事前埋め込み」です。すべての文書を事前にベクトル化してデータベースに保存します。更新が少なく、大量の文書から高速に検索したい場合に適しています。

ピエール氏は、RAGの課題の60%は全文検索とクエリの書き換えで解決可能であるとの目安を示しています。

最初から複雑な仕組みを用意すべきではないとしています。