データレイク編 第10章 / 全13章
社内データを生成AIで使う(RAG)とは
RAG ・ ベクトル検索 ・ 閲覧権限
社内の資料を探して、生成AIに答えさせるSOURCEINGESTLAKEPROCESSWAREHOUSEBIAI
生成AIは、物知りでも、あなたの会社のことは何も知らない新人のようなものです。質問のたびに、資料室から関係する資料を探して手渡せば、それを読んで正しく答えてくれます。この「探して渡す」仕組みがRAGです。
図とさわれるデモで確かめる →
ポイント
- 生成AIは、そのままでは社内の規程・商品・顧客のことを知らない
- 質問に関係する社内データを先に探し、質問と一緒にAIへ渡すのがRAG
- 答えの正しさは、探し出す材料(社内データ)の正しさで決まる
名前の由来
Retrieval取ってくることAugmented強化されたGeneration生成
RAG:必要な情報を探して取ってきて、それを使って生成AIの答えを強化する仕組み。
仕事の現場では
社内向けのAIアシスタント、問い合わせ対応、営業資料の検索などで使われています。まずは規程集やマニュアルなど、正しさが確かな文書から始め、答えには出典(どの資料のどこか)を必ず付けるのが基本です。
くわしく(正確な話)
- 文書は数百〜千文字ほどの「チャンク」に分け、埋め込み(ベクトル)に変換して保存する。
- 言葉の一致で探す全文検索と、意味で探すベクトル検索を組み合わせた「ハイブリッド検索」が主流。
- PDF・Word・Excel、画像の中の文字も、取り込みの段階でテキストにしておく。
- 元の文書の閲覧権限を検索結果にも当てはめ、見てよい人にだけ答えるようにする。
- 売上などの表データは、文書として探すより、SQLで集計した結果をAIに渡す方が正確。
うまれ:RAGという言葉は、2020年にMeta(当時Facebook)の研究者らが発表した論文で使われた。
この章の用語(意味と語源)
- RAG ラグ
社内資料などを検索してから、生成AIに答えさせる仕組み。
覚えておく:検索 → 生成
語源Retrieval-Augmented Generation(取ってきた情報で強化した生成)の頭文字。retrieve は「猟犬が獲物を取ってくる」が元の意味。
- チャンク Chunk
RAGのために、長い文書を数百〜千文字ほどに区切った「かたまり」。
質問に関係する部分だけを探して渡せるよう、文書を小さく分けてから保存します。
語源chunk(ひとかたまり)。もとはパンや木材の「ぶつ切り」のこと。
- 埋め込み(エンベディング) Embedding
文章を、意味を表す数字の並び(ベクトル)に変換すること。
意味の近い文章ほど、近い数字の並びになります。これを使って「意味で探す」ことができます。
語源embed(埋め込む)。意味を数字の空間に「埋め込む」こと。
- ハイブリッド検索 Hybrid Search
言葉の一致で探す全文検索と、意味の近さで探すベクトル検索を組み合わせる方法。
製品の型番のような言葉は全文検索、言い回しの違う質問はベクトル検索が得意なので、両方を組み合わせます。
語源hybrid(2つのものを掛け合わせた)。
- 閲覧権限の引き継ぎ Access Control
元の文書に設定された「誰が見てよいか」を、AIの検索結果にも当てはめること。
これがないと、本来見られない人に、AIが社内の機密を答えてしまいます。
語源英語では access control(近づくことの管理)。
- 生成AI Generative AI
文章や画像などを新しく作り出すAI。
語源generate(生み出す)。