RAGとは？｜生成AIが社内文書を参照して答える仕組み

この記事でわかること

• RAGとは何か、何の略で、いつ生まれた言葉か
• RAGが答えを作るまでの3段階と、精度が決まる場所
• RAG・ファインチューニング・長いコンテキストの違い
• 会社でRAGを使う例と、使う前に決める5つ
• RAGの限界と、この記事で解けないこと

RAGとは｜生成AIが回答の前に文書を検索して答える仕組み

RAGとは、生成AIが質問に答える前に、外部の文書から関係する箇所を検索し、その内容を手がかりに回答を作る仕組みです。英語の Retrieval-Augmented Generation の頭文字で、日本語では「検索拡張生成」と訳されます。

ここでの生成AIは、主にLLM（大規模言語モデル）を指します。LLMは、大量の文章から言葉のつながりを学び、続きの文章を作るモデルです。詳しい仕組みはLLMとは？わかりやすく｜生成AI・ChatGPTとの関係を整理で扱っています。

RAGとはわかりやすく言うと「調べてから答える」こと

RAGをわかりやすく言うと、AIに試験を受けさせるとき、記憶だけで答えさせず、手元の資料を開いて調べてから答えさせる方式です。LLMは学習した時点までの知識しか持たず、社内の規程や先週の議事録は知りません。

そこでRAGでは、質問が来るたびに、社内の文書の中から質問に近い箇所を探してAIに渡します。AIは渡された箇所を読み、その内容に沿って答えます。

AI用語のRAGとは何の略か｜2020年の論文で名付けられた

RAGという名前は、Patrick Lewisらが2020年5月に公開し、NeurIPS 2020で発表した論文「Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks」で使われました。論文の要旨は、学習済みのモデルが持つ知識と、Wikipediaから作った検索用の索引を組み合わせる方式としてRAGを説明しています。

論文の当時は研究用の方式でしたが、今では社内の文書を答えに使う製品にも、同じ考え方が使われています。製品ごとに検索の作り方は違い、すべての製品がRAGと名乗っているわけではありません。

ファクトボックス｜RAGの基本情報

RAGは、AIを賢くする技術ではなく、AIが答える前に読む資料を、質問のたびに選んで渡す仕組みです。

RAGの仕組み｜検索・取り込み・生成の3段階

RAGの仕組みは、検索・取り込み・生成の3段階に分けると理解しやすくなります。その前に、文書を検索できる形にしておく準備の工程があります。

準備｜文書をチャンクに切り、エンベディングでベクトルにする

Anthropicの解説によると、一般的なRAGでは、まず文書を数百トークン程度の小さな断片に切ります。この断片をチャンクと呼びます。トークンは、AIが文章を処理するときの単位で、料金と一度に読める量もこの単位で決まり、数え方は生成AIのトークンとは？｜料金と文字数の上限が決まる仕組みで扱っています。

切ったチャンクは、エンベディングという、文章の意味を数字の並びに置き換える処理にかけて保存します。エンベディングは埋め込みとも呼ばれ、変換した数字の並びをベクトル、その保存先をベクトルデータベースと呼びます。意味が近い文章ほどベクトルも近くなるため、言葉が一致しなくても内容の近い箇所を探せます。

1. 検索｜ベクトル検索で質問に近い箇所を探す

質問が来たら、質問文も同じ方法でベクトルに変え、意味の近いチャンクを探します。意味で探すこの方式をベクトル検索と呼びます。製品によっては言葉の一致で探すキーワード検索も組み合わせ、この組み合わせをハイブリッド検索と呼びます。

2. 拡張（取り込み）｜見つけた箇所を質問と一緒にAIへ渡す

見つけた断片は、元の質問と一緒にAIへの指示文に差し込まれます。AIへの指示文をプロンプトと呼び、書き方の型はプロンプトの書き方｜仕事で使える5つの型と良い例・悪い例で扱っています。

3. 生成｜渡された箇所を根拠に答える

AIは、渡された断片を読み、その内容に沿って回答を作ります。製品によっては、回答のどの部分がどの文書から来たかを出典として示します。

RAGの回答は、検索で見つけた箇所の質を超えられないため、精度は主に検索の段階で決まります。

生成AIでRAGとは何を足すのか｜モデルの外に知識を置く

生成AIにRAGを足すとは、知識をモデルの中に覚えさせる代わりに、モデルの外に置いた文書から毎回取ってくる形に変えることです。知識が外にあるため、文書を差し替えれば、モデルを作り直さずに答えが変わります。

逆に言えば、外に置いた文書が古ければ、AIは古い内容を根拠に、自信のある口調で答えます。AIの答えを直したいときに、AIの設定ではなく文書の側を直す必要がある点が、RAGを使う会社に求められる考え方の切り替えです。

検索の作り方で取りこぼしは約3分の1になる

検索の取りこぼしを減らす工夫の効果は、Anthropicが2024年9月に公表した検証で示されています。Anthropicが複数の分野の文書で、上位20件の検索結果に正解の箇所が入らなかった割合を測ったところ、チャンクに文脈の説明を足す方式とキーワード検索の併用で5.7%から2.9%に、検索結果を並べ替えるリランキングの工程を足すと1.9%に下がりました。これはAnthropic自身の検証用データでの値で、自社の文書で同じ数字が出るとは限りませんが、検索の作り方だけで取りこぼしが約3分の1まで減ることは、導入前に覚えておく価値があります。

RAG・ファインチューニング・長いコンテキストの違い

社内の知識をAIに使わせる方法は、RAGのほかに、ファインチューニングと長いコンテキストの2つがよく比べられます。ファインチューニングは、追加のデータでモデルを学習し直し、知識や話し方をモデルの中に覚えさせる方法です。

長いコンテキストは、検索をせず、文書をまるごと指示文に入れてAIに読ませる方法です。コンテキストとは、AIが1回の回答で読める情報の範囲を指します。

表は、各方式の一般的な性質を本記事で整理したものです。実際の向き不向きは、製品・文書の量・更新の頻度で変わります。

文書が少ないなら、検索せずに全部渡す選択肢もある

Anthropicは、2024年9月の解説で、知識の量が20万トークン（約500ページ）より少なければ、検索を作らず文書をまるごと指示文に入れられると書いています。同じ解説は、同じ指示文をくり返し使うときに読み込み済みの部分を再利用するプロンプトキャッシュで、待ち時間と費用を下げられるとしています。

製品の側でも、両方を切り替える例があります。Claudeのヘルプによると、有料プランのプロジェクト機能では、プロジェクトに入れた知識が一度に読める量の上限に近づくと、自動でRAGのモードに切り替わり、扱える量が最大10倍まで広がります。

文書が一度に読める量に収まるうちはまるごと渡し、超えたらRAGで必要な箇所だけを渡すのが、方式を選ぶ出発点です。

当社の研修でも、社内の情報をどこに置けばAIが読めるかという質問が出ます。そのとき当社は、毎回読ませたい情報は決まった場所に置き、必要なときに探せばよい情報だけを検索に任せる、と答えています。検索に頼る情報ほど、言葉の選び方で見つかったり見つからなかったりし、昨日と同じ質問に違う答えが返ることがあるためです。

会社で使う例｜同じ質問が何度も来る仕事に向く

RAGを会社で使う例は、同じ質問が何度も来るのに、答えが文書のどこかに書いてある仕事に集まります。ここでは、公式の案内と当社の整理をもとに、代表的な使い方を挙げます。

表の右の列が示すとおり、どの使い方でも、AIが引いた文書が今も正しいかを人が確かめる場所が要ります。使い方の例は本記事の整理で、どの業務でも同じ効果が出るという意味ではありません。

会社で使うRAGは、製品に入っていることが多い

会社でRAGを使う方法は、自社で一から作るほかに、すでに使っている製品の機能として使う道があります。たとえばMicrosoftの公式ドキュメントは、Microsoft Copilot（旧称 Microsoft 365 Copilot）が、メール・チャット・文書のうち使う人が閲覧の権限を持つものを根拠に回答を作ると説明しています。

ClaudeやChatGPTに社内の資料を添付して質問するのも、外の文書を渡して根拠にさせる点では近い考え方です。ただし文書をまるごと読ませる場合は、本記事の分け方では長いコンテキストに当たります。どの製品を使う場合でも、何を検索させ、誰に見せるかを決めるのは、製品ではなく会社の側です。

RAGで文書を読むだけでなく、AIが手順を進めて作業まで行う使い方は、AIエージェントと呼ばれます。AIエージェントは、目的を受け取り、道具を使いながら複数の手順を自分で進めるAIです。違いはAIエージェントとは？｜生成AIとの違いと会社で使う3つの例、作り方はAIエージェントの作り方｜ノーコードで始める4つの手順と道具で扱っています。

RAGを会社で使う前に決める5つ｜置き場所から漏洩の線引きまで

RAGを会社で使う前に決めることは、主に次の5つです。RAGの答えは渡した文書で決まるため、文書の側の決めごとが、そのままAIの答えの質と安全を決めます。5つの分け方は、公式の案内と当社の研修での回答方針をもとにした本記事の整理です。

RAGの答えの質と安全は、AIの設定ではなく、検索させる文書の決めごとで決まります。

1. 置き場所｜同じ文書が2か所にある状態をなくす

1つ目は、検索させる文書の置き場所を決めることです。同じ規程が共有フォルダと社内のwikiの両方にあり、どちらが正しいか決まっていないと、AIは古いほうを引くことがあります。

当社の研修では、どこが正しい文書かを1か所に固定し、別の場所にあるものは写しだと明記するよう伝えています。全部を一度に整える必要はなく、最初に整える文書を10個に絞り、置き場所を決めるところから始める方法を勧めています。

2. 権限｜見てよい人にだけ答える

2つ目は、RAGの答えを誰に見せてよいかを、文書の権限と合わせて決めることです。権限を無視して全社の文書を1つの検索にまとめると、本来見られない人事や経理の資料の内容が、AIの答えを通して出てしまいます。

Microsoftの公式ドキュメントは、Microsoft Copilotが使う人の閲覧の権限の範囲でしか社内のデータを出さないと説明したうえで、SharePointなどの権限の仕組みを正しく使うよう求めています。製品が権限を守る作りでも、元の文書の権限が広すぎれば、その広さのまま答えに出ます。

RAGは文書の権限を広げも狭めもせず、今の権限の設定の甘さを、AIの答えとして目に見える形にします。

3. 更新｜誰が、いつ、何をきっかけに直すか

3つ目は、検索させる文書を誰が、いつ、何をきっかけに直すかを決めることです。当社の研修では、置き場所だけ決めて更新のルールを決めないと仕組みにならない、と伝えています。

更新されない文書は、無いより害が大きくなります。AIは古い事実を、新しい事実と同じ口調で答えるため、読む人が古さに気づけないからです。規程の改定や組織の変更のたびに、文書の担当者が直す流れを先に決めます。

4. 確かめ方｜出典を示させ、答えを人が見る

4つ目は、RAGの答えが正しいかを、どこで誰が確かめるかを決めることです。RAGでも、AIは渡された箇所を読み違えたり、渡されていない内容を補って答えたりすることがあります。

確かめ方は、回答に出典の文書名を示させ、人が元の文書を開いて照らす形が基本です。導入の前に、答えが分かっている質問を数十件用意し、正しく答えられるかを試しておくと、文書を足したり直したりした後の変化も比べられます。

5. 入れない文書｜検索の対象から外すものを先に決める

5つ目は、RAGの検索の対象に入れない文書を先に決めることです。個人情報・顧客との契約の中身・未発表の数字のように、AIの答えに出てはいけない情報は、権限を絞る前に、そもそも入れない判断ができます。

外部のサービスでRAGを使う場合は、文書がどこに保存され、学習に使われるかも、契約の種類ごとに確かめます。機密の情報をAIに渡すときの線の引き方は、生成AIに機密情報を入れて大丈夫？｜学習させない設定と、入力してよい範囲の決め方で扱っています。

社内のどの文書をAIに読ませ、どこで人が確かめるかを検討するなら、自社で使えるヒントを、20の実例から探すもご利用ください。

自社で使えるヒントを、20の実例から探す

限界｜検索で見つからない情報は答えに使われない

RAGは、社内の文書を答えに使える便利な仕組みですが、仕組みの上で避けられない限界があります。会社で使う前に、何ができないかも把握しておきます。

RAGの仕組みから来る限界

• 検索で見つからなかった情報は、文書の中にあっても答えに使われない
• 文書を断片に切るため、前後の文脈が切れて意味を取り違えることがある
• 表・図・画像の中の情報は、製品によっては検索の対象にならない
• 渡された箇所があっても、AIが読み違えたり内容を補ったりすることがある
• 文書どうしの内容が食い違うと、どちらを根拠にするかをAIが選んでしまう

RAGの誤りは生成の段階より前、文書と検索の段階で生まれやすく、会社が直せるのもその2段です。

この記事で解けないこと

RAGを自社で開発する手順と、検索の部品の製品比較は扱いません。検索の作り方で精度が大きく変わるため、同じ条件での比較が公表されていない製品どうしを並べても判断の材料にならないからです。

RAGを入れた後に問い合わせの件数や対応時間がどれだけ減るかも、本記事では示しません。当社には、RAGの導入前後を同じ条件で測った数字の在庫がなく、効果は文書の整い方と業務で大きく変わります。

よくある質問｜RAGを社内で使うときの疑問

Q. RAGを使えば、AIの間違いはなくなりますか

A. RAGを使っても、AIの間違いはなくなりません。 根拠の文書を渡すことで、知らないことをもっともらしく作る誤り、いわゆるハルシネーションは減らしやすくなりますが、検索が外れた場合や、古い文書を引いた場合は、その内容のまま答えます。出典を示させ、人が元の文書で確かめる運用を組み合わせます。

Q. ChatGPTやClaudeにファイルを添付して質問するのも、RAGですか

A. 添付した文書の扱い方によって、RAGにも長いコンテキストにも当たります。 製品によって、添付した文書をまるごと読ませる場合と、検索して必要な箇所だけを使う場合があります。Claudeのプロジェクト機能のように、文書の量に応じて自動で切り替える製品もあります。

Q. RAGとファインチューニングは、どちらから始めればよいですか

A. 社内の事実を答えに使いたいなら、多くの場合はRAGか、文書をまるごと渡す方法から始めます。 ファインチューニングは学習のやり直しが要り、規程の改定のたびに反映するのに向きません。話し方や出力の形式をそろえたい場合に検討します。

Q. 社内文書をRAGに入れると、AIの学習に使われますか

A. 学習に使われるかは、RAGという仕組みではなく、使う製品と契約の種類で決まります。 たとえばMicrosoftは、Microsoft Copilotで扱うデータを基盤のモデルの学習に使わないと公式ドキュメントで説明しています。使う製品ごとに、法人の契約での既定値を確かめます。

総括表｜会社で使う前に決める5つ

5つの分け方は本記事の整理で、RAGの製品の公式の手順の一覧ではありません。

社内のフォルダの文書を読み、作業まで進めるAIの例は、Claude Codeとは？できること・料金・つまずく壁で扱っています。

まとめ｜RAGとは何か、会社で使う前に何を決めるか

RAGとは、生成AIが答える前に社内の文書を検索し、見つけた箇所を根拠に答える仕組みです。答えの質は検索させる文書で決まるため、置き場所・権限・更新・確かめ方・入れない文書の5つを先に決めると、古い文書や権限の広さから来る誤りを導入前に減らせます。

社内でRAGを試すかを検討しているなら、次の3つから始められます。

1. 今日：社内で同じ質問が何度も来ている問い合わせを1つ選ぶ
2. 今週中：その質問の答えが書いてある文書を探し、正しい版がどこにあり、誰が直しているかを書き出す
3. 今週中：答えが分かっている質問を10件作り、文書を渡したAIが正しく答えるかを試す

最後に、社内で自分に問える1問を置きます。御社で最初にRAGに読ませる文書について、正しい版がどこにあり、次に誰が直すかを答えられますか。

• RAGは、生成AIが答える前に外部の文書を検索し、見つけた箇所を材料に回答を作る仕組みです。モデルそのものを学習し直さずに、社内の最新の文書を答えに使えます
• RAGの答えの質は、検索・取り込み・生成の3段階のうち、主に検索の段階で決まります。探し当てた箇所が古いか的外れなら、AIはそのまま誤った答えを返します
• 会社でRAGを使う前に決めることは、主に文書の置き場所・権限・更新・答えの確かめ方・入れない文書の線引きの5つです。5つの分け方は本記事の整理で、公式の分類ではありません

社内の文書をAIに読ませる範囲と、人が確かめる場所を整理するなら、自社で使えるヒントを、20の実例から探すからご確認いただけます。

自社で使えるヒントを、20の実例から探す

Claude Codeで業務がどう進むかを画面で見てから決めたい場合は、初回無料体験講座もあります。

無料体験講座を申し込む ▶

この記事について

本記事は、法人向けにClaude Codeの研修を提供するDAIJOBUが、RAGの仕組みと、会社の文書をAIに読ませる前に決めることを、論文と各社の公式の案内に沿って整理したものです。