IT丸わかり 用語集 →

データレイク編 第10章 / 全13章

社内データを生成AIで使う(RAG)とは

RAG ・ ベクトル検索 ・ 閲覧権限

社内の資料を探して、生成AIに答えさせる
SOURCEINGESTLAKEPROCESSWAREHOUSEBIAI
全体図での位置:LAKE(湖(生データ)) + AI(予測・AI)
生成AIは、物知りでも、あなたの会社のことは何も知らない新人のようなものです。質問のたびに、資料室から関係する資料を探して手渡せば、それを読んで正しく答えてくれます。この「探して渡す」仕組みがRAGです。
図とさわれるデモで確かめる →

ポイント

名前の由来

Retrieval取ってくることAugmented強化されたGeneration生成

RAG:必要な情報を探して取ってきて、それを使って生成AIの答えを強化する仕組み。

仕事の現場では

社内向けのAIアシスタント、問い合わせ対応、営業資料の検索などで使われています。まずは規程集やマニュアルなど、正しさが確かな文書から始め、答えには出典(どの資料のどこか)を必ず付けるのが基本です。

くわしく(正確な話)

  • 文書は数百〜千文字ほどの「チャンク」に分け、埋め込み(ベクトル)に変換して保存する。
  • 言葉の一致で探す全文検索と、意味で探すベクトル検索を組み合わせた「ハイブリッド検索」が主流。
  • PDF・Word・Excel、画像の中の文字も、取り込みの段階でテキストにしておく。
  • 元の文書の閲覧権限を検索結果にも当てはめ、見てよい人にだけ答えるようにする。
  • 売上などの表データは、文書として探すより、SQLで集計した結果をAIに渡す方が正確。

うまれ:RAGという言葉は、2020年にMeta(当時Facebook)の研究者らが発表した論文で使われた。

この章の用語(意味と語源)

RAG ラグ

社内資料などを検索してから、生成AIに答えさせる仕組み。

覚えておく:検索 → 生成

語源Retrieval-Augmented Generation(取ってきた情報で強化した生成)の頭文字。retrieve は「猟犬が獲物を取ってくる」が元の意味。

チャンク Chunk

RAGのために、長い文書を数百〜千文字ほどに区切った「かたまり」。

質問に関係する部分だけを探して渡せるよう、文書を小さく分けてから保存します。

語源chunk(ひとかたまり)。もとはパンや木材の「ぶつ切り」のこと。

埋め込み(エンベディング) Embedding

文章を、意味を表す数字の並び(ベクトル)に変換すること。

意味の近い文章ほど、近い数字の並びになります。これを使って「意味で探す」ことができます。

語源embed(埋め込む)。意味を数字の空間に「埋め込む」こと。

ハイブリッド検索 Hybrid Search

言葉の一致で探す全文検索と、意味の近さで探すベクトル検索を組み合わせる方法。

製品の型番のような言葉は全文検索、言い回しの違う質問はベクトル検索が得意なので、両方を組み合わせます。

語源hybrid(2つのものを掛け合わせた)。

閲覧権限の引き継ぎ Access Control

元の文書に設定された「誰が見てよいか」を、AIの検索結果にも当てはめること。

これがないと、本来見られない人に、AIが社内の機密を答えてしまいます。

語源英語では access control(近づくことの管理)。

生成AI Generative AI

文章や画像などを新しく作り出すAI。

語源generate(生み出す)。

データレイク編:章ごとに読む

  1. 分析用データ基盤とは業務用と分析用を分ける
  2. データの取り込みバッチとストリーミング
  3. データレイクあらゆるデータをそのまま貯める
  4. ファイル形式と列指向保存の形で、速さと費用が変わる
  5. ETL / ELT(整える)データをきれいに整える
  6. メダリオンアーキテクチャデータを3段階で整える
  7. DWHとレイクハウス分析用の倉庫と、その発展形
  8. BIと見える化数字をグラフで共有する
  9. AI・機械学習への活用データを予測に活かす
  10. 社内データを生成AIで使う(RAG)社内の資料を探して、生成AIに答えさせる
  11. コンテキストレイヤー(AIに業務の意味を伝える)AIが社内データを正しく使うための、意味とルールの層
  12. ガバナンスとセキュリティデータを正しく管理するためのルール
  13. クラウドで作るデータ基盤役割ごとのサービス対応表

図とデモで学ぶ(データレイク編)→ | IT用語集 →