社内データを生成AIで活用する方法｜RAG・学習の選び方と整理の手順

この記事でわかること

• 社内データを生成AIで活用する3つの方法と、社内でよくある使い方
• データの量・更新の頻度・正確さで渡し方を選ぶ考え方
• 生成AIに渡す前にデータを整理する4つの手順
• 社内データを渡すときの注意点と、整えても残る限界

社内データを生成AIで活用する方法｜渡し方は3つ

社内データを生成AIで活用する方法は、AIにデータをどう渡すかで、その都度渡す・検索させて渡す・学習させるの3つに分けられます。ここでいう社内データは、規程・手順書・議事録・提案書・顧客とのやり取りの記録・表計算のファイルなど、社内にある文書とデータ全般を指します。

生成AIは、学習した時点までの一般的な知識しか持たず、自社の規程や先月の議事録は知りません。社内の事実を答えさせるには、何らかの形で社内データをAIに届ける必要があり、その届け方の違いが3つの方法の違いです。

1. その都度渡す｜質問のたびに資料を添付する

1つ目は、質問のたびに、関係する資料をAIに添付したり貼り付けたりして渡す方法です。チャットにファイルを添付する使い方や、製品のプロジェクト機能に資料をまとめて入れておく使い方が当たります。

Anthropicは、2024年9月の解説で、知識の量が20万トークン（約500ページ）より少なければ、検索を作らずに全部を指示文に入れられると書いています。トークンは、AIが文章を処理するときの単位です。社内の手順書が数十ページのように、渡したい資料の量が限られているうちは、この方法で十分なことが多くあります。

2. 検索させて渡す｜質問に近い箇所だけを探して渡す

2つ目は、社内データの中から質問に近い箇所をAIに検索させ、見つけた箇所だけを渡す方法です。この方式はRAG（検索拡張生成）と呼ばれ、資料の量が一度に読める範囲を超えるときに使います。

検索させて渡す方法は、自社で一から組むほかに、すでに使っている製品の社内データとの連携として使う道もあります。たとえばMicrosoftの公式ドキュメントは、Microsoft Copilotが、使う人がすでに閲覧の権限を持つデータを根拠に回答を作ると説明しています。

3. 学習させる｜追加学習で答え方を覚えさせる

3つ目は、社内データを使ってAIのモデルを追加で学習させる方法です。追加学習はファインチューニングとも呼ばれ、モデルに答え方や出力の形を覚えさせます。

OpenAIの開発者向けの手引き「Optimizing LLM Accuracy」は、モデルが学習していない知識を補う場合は文脈を与える側の工夫を、出力の形式がそろわないなど振る舞いを直したい場合はモデル側の最適化を使う、という分け方をしています。社内の事実を答えさせることが目的なら、追加学習より先に、渡し方の工夫で足りないかを確かめます。

表は、各方法の一般的な使われ方を本記事で整理したものです。製品によっては、資料の量に応じて1と2を自動で切り替えるものもあり、製品名だけでは線を引けません。

社内データを生成AIで活用するときに最初に選ぶのは、AIの製品ではなく、社内データをAIにどう渡すかです。

ファクトボックス｜社内データを生成AIで活用する方法の基本情報

渡し方の選び方｜データの量・更新の頻度・正確さで決まる

社内データの渡し方は、データの量・更新の頻度・答えに求める正確さの3つを、この順に確かめると決めやすくなります。3つの条件は、どの製品にもそのまま当てはまる公式の基準ではありません。

1. データの量｜一度に読める範囲に収まるか

1つ目に確かめるのは、答えに使いたいデータが、AIが一度に読める範囲に収まるかです。収まるならその都度渡す方法で始め、収まらないなら検索させて渡す方法を検討します。

量を見積もるときは、社内データ全体ではなく、1つの業務の答えに要るデータだけを数えます。全社の共有フォルダを合わせると膨大でも、経費の精算の問い合わせに答えるのに要るのは、規程と手順書とよくある質問の数本で済むことがあります。

2. 更新の頻度｜毎週変わるデータを学習させない

2つ目に確かめるのは、そのデータがどのくらいの頻度で変わるかです。価格表・担当者の一覧・案件の状況のように毎週変わるデータは、その都度渡すか検索させて渡す方法を選びます。

学習させる方法では、データが変わるたびに学習をやり直さない限り、AIは古い内容を覚えたまま答えます。規程の改定や組織の変更が年に何度もある会社では、更新の頻度だけで学習させる方法が外れることが多くあります。

3. 答えに求める正確さ｜出典を示して確かめたいか

3つ目に確かめるのは、答えのどの部分がどの資料から来たかを、人が確かめる必要があるかです。社内の規程や顧客への回答のように誤りが許されない業務では、出典の資料を示せる、その都度渡す方法か検索させて渡す方法を選びます。

一方で、社内の文書の書き方や返信の言い回しをそろえたいだけなら、出典を示す必要はありません。こうした答え方の形をそろえる目的が、学習させる方法の向く場面です。ただし、資料が少なければ、望む答え方の例を添えてその都度渡す方法で足りることが多くあります。

社内データの渡し方は、データの量・更新の頻度・答えに求める正確さを順に確かめると、多くの場合は学習させる前に決まります。

その都度渡す使い方は、考えを深める相談にも向く

その都度渡す方法は、社内の事実を答えさせるだけでなく、渡した資料をもとにAIと考えを深める使い方にも向きます。会議の前に過去の議事録と論点のメモを渡し、見落としている観点を挙げさせるような使い方です。

資料を渡しながらAIと対話して考えを整理する進め方は、生成AIで壁打ちする方法｜考えを深める使い方とプロンプトの型で扱っています。壁打ちでも、渡す資料の版が古ければ、古い前提のまま議論が進む点は変わりません。

社内データの整理｜生成AIに渡す前の4つの手順

社内データの整理は、業務を1つ決める・仕分ける・形をそろえる・正の版を1つにするの4つの手順で進めます。どの渡し方を選んでも、AIが読むのは渡されたデータだけなので、整理の手順は3つの方法に共通です。全社のデータを一度に整える必要はなく、1つの業務から始められます。

1. 業務を1つ決め、答えの元になるデータを書き出す

1つ目の手順は、生成AIに任せたい業務を1つに絞り、その答えの元になるデータが今どこにあるかを書き出すことです。社内データ全体から整理を始めると、どこまで整えれば使い始めてよいかが決まらず、整理だけで止まります。

書き出すのは、データの名前・今の置き場所・誰が更新しているか・どのくらいの頻度で変わるかの4つです。

書き出すと、同じ規程が2か所にある、更新の担当が決まっていない、といった整理の論点が先に見えます。どの業務から始めるかの例は、生成AIの活用事例｜業務別に見る会社での使い方と始める順番で扱っています。

2. 毎回読ませる・探させる・渡さないに仕分ける

2つ目の手順は、書き出したデータを、AIに毎回読ませるもの・必要なときに探させるもの・AIに渡さないものの3つに仕分けることです。仕分けが決まると、データごとの置き場所と渡し方が決まります。

当社は、研修や商談で「Notionを使っているが、AIに読ませる情報はどこに置けばよいか」と聞かれたとき、次の3つの問いで切り分ける答え方をしています。

同じ答え方では、会社のルール・用語の定義・判断の基準のように、その時点で正しい事実として毎回読ませたい情報と、議事録・案件の進み具合のように時系列で流れていく情報を分けて考えます。後者は、人が毎日書き込んでいる今のツールに置いたまま、必要なときにAIに探させます。

3つ目の仕分けの「渡さない」は、本記事で足した分け方です。個人情報や顧客との契約の中身のように、AIの答えに出てはいけないデータは、置き場所を考える前に渡さない側に置きます。

社内データは、毎回読ませる・必要なときに探させる・渡さないに分けてから置き場所を決めると、データごとの渡し方が決まります。

3. AIが読み取りやすい形にそろえる

3つ目の手順は、AIに渡すデータを、AIが読み取りやすい形にそろえることです。人が読めば分かる資料でも、AIには前後の関係や版の新旧が伝わらないことがあります。

• 1つのファイルに1つの話題だけを書き、ファイル名に中身と版が分かる語を入れる
• 文書の冒頭に、最終更新日・誰が直しているか・どの範囲に当てはまるかを書く
• 見出しを付け、1つの段落に1つのことだけを書く
• 画像として取り込んだだけの資料は、文字を取り出せる形に直す
• 表のデータは、1行目に列の名前を置き、同じ列に違う種類の値を混ぜない
• 社内の略語や独自の用語は、意味を1か所にまとめて一緒に渡す

どの項目も、製品ごとの仕様ではなく、資料を読む側に判断を任せないための整え方として本記事でまとめたものです。表や画像の中身をどこまで読み取れるかは製品と版で変わるため、整えた後に実際に渡して確かめます。

4. 正の版を1つに決め、写しは一方向で作る

4つ目の手順は、同じデータの正しい版を1か所に決め、AIのために写しを作る場合は、元の場所から写しへの一方向だけで更新することです。同じ事実が2か所にあり、どちらが正しいか決まっていない状態は、時間とともに中身がずれていきます。

当社の同じ答え方では、Notionで情報を管理している会社には、Notionはやめなくてよいと答えています。

Notionの中にAIに読ませるページを集めた場所を1か所だけ作り、その配下をAIが読む場所へ定期的に書き写し、「Notionが正、AI側は写し」と明記する進め方を勧めています。写しは一方向で、AI側を直してNotionへ戻す流れは作りません。

完全な自動の同期でなくても、週1回の手作業の書き出しでも成り立つ、というのが当社の答え方です。

AIに読ませる写しは、元の場所を正にして一方向だけで更新すると、2か所の中身がずれる状態を防げます。

社内データの整理で決めるのは、データの置き場所そのものより、どちらが正しい版で、誰がどの向きに直すかです。

社内データを生成AIに渡すときの注意点｜確かめる人を分ける

社内データを生成AIに渡すときの注意点は、個人情報の扱い・見てよい人の範囲・更新の担当の3つに分けると、誰が何を確かめるかを決めやすくなります。どれも、AIの性能ではなく、渡す側の会社の決めごとで防ぐ種類の問題です。

個人情報｜利用目的の範囲と、学習に使われないかを確かめる

1つ目の注意点は、個人情報を含む社内データの扱いです。個人情報保護委員会は、令和5年6月2日の「生成AIサービスの利用に関する注意喚起等」で、個人情報取扱事業者に向けて2つの点を挙げています。

1つは、個人情報を含むプロンプトを入力する場合に、特定した利用目的を達成するために必要な範囲内かを十分に確認することです。もう1つは、本人の同意なく個人データを含むプロンプトを入力する場合に、生成AIサービスを提供する事業者がそのデータを機械学習に利用しないこと等を十分に確認することです。

社内データを渡す前の仕分けで「渡さない」に置くデータを決めるとき、この2点が判断の出発点になります。学習に使われるかどうかの確かめ方と、入力してよい範囲の決め方は、生成AIに機密情報を入れて大丈夫？｜学習させない設定と、入力してよい範囲の決め方で扱っています。

見てよい人の範囲｜渡す前に、今の共有の設定を見直す

2つ目の注意点は、AIの答えを誰に見せてよいかで、検索させて渡す方法では、今の共有の設定が広すぎればその広さのまま答えに出ます。Microsoftも、Microsoft Copilotの導入に向けた手引き「Secure & Governed Data Foundation for Microsoft Copilot」で、最初に共有しすぎの状態を直すことを挙げています。

更新の担当｜誰が、どの周期で写しを直すかを決める

3つ目の注意点は、AIに渡すデータを誰が、どの周期で直すかで、担当は情報システムの担当ではなく、そのデータを日ごろ直している部署に置きます。当社の同じ答え方では、更新の導線がすでにある場所を選ぶとしています。

見てよい人の範囲を文書の権限と合わせて決める方法と、更新のきっかけと担当の決め方は、RAGとは？｜生成AIが社内文書を参照して答える仕組みの「会社で使う前に決める5つ」で詳しく扱っています。

社内データを生成AIに渡すときの注意点は、個人情報の扱い・見てよい人の範囲・更新の担当の3つです。

生成AIの情報漏洩が起きる経路と、それぞれの対策は、生成AIの情報漏洩リスクと対策｜漏れる経路は3つしかないで扱っています。

社内のデータをAIに渡す範囲と、更新の担当を社内で決めるなら、自社で使えるヒントを、20の実例から探すもご利用ください。

自社で使えるヒントを、20の実例から探す

限界｜社内データを整えても残ること

社内データを整理してから生成AIに渡しても、仕組みの上で残る限界があります。実際に整理を始める前に、整えても解けないことも把握しておきます。

整理しても残る限界

• 渡したデータの中に答えがあっても、AIが読み違えたり、書かれていない内容を補ったりすることがある
• 検索させて渡す方法では、質問の言葉の選び方によって、要る箇所が見つからないことがある
• 正の版を1つに決めても、元の場所の更新が止まれば、AIは古い版のまま答える
• 仕分けの線は業務と会社で変わり、一度決めた線も組織や取引の変化に合わせて見直しが要る

この記事で解けないこと

検索させて渡す仕組みを自社で開発する手順と、製品どうしの比較は扱いません。製品の機能と上限は短い間隔で更新され、同じ条件での比較が公表されていない製品を並べても、判断の材料にならないからです。

社内データを整えた後に、問い合わせの件数や作業の時間がどれだけ減るかも、本記事では示しません。当社には、社内データの整理の前後を同じ条件で測った数字の在庫がなく、効果は業務とデータの整い方で大きく変わります。

よくある質問｜社内データを生成AIで活用するときの疑問

Q. 社内データの整理が終わるまで、生成AIは使い始められませんか

A. 社内データの整理は、全社分が終わる前でも、業務を1つに絞れば使い始められます。 1つの業務の答えに要るデータだけを書き出し、仕分けて、正の版を決めれば、その業務ではその都度渡す方法から試せます。残りの業務は、1つ目で分かった整理の手間を見てから広げます。

Q. 資料が少ないうちは、チャットに添付するだけで足りますか

A. 答えに要る資料が一度に読める範囲に収まるうちは、チャットへの添付やプロジェクト機能で足りることが多くあります。 検索させて渡す方法を検討するのは、資料が増えて毎回選んで添付する手間が出たときや、同じ質問が何度も来るようになったときです。添付で使う間も、添付する資料が正の版かどうかは人が確かめます。

Q. Excelの表のようなデータも、生成AIに渡せますか

A. 表のデータも生成AIに渡せますが、読み取れる形式と量は製品と版で変わります。 1行目に列の名前を置き、同じ列に違う種類の値を混ぜないように整えると、AIが列の意味を取り違えにくくなります。整えた後に、答えの分かっている質問で実際に確かめます。

Q. 社内データの整理は、誰が担当すればよいですか

A. 社内データの整理は、データを日ごろ直している部署が中身を、情報システムの担当が置き場所と権限を受け持つ形が分担しやすくなります。 中身の正しさを知っているのはデータの持ち主で、共有の設定やAIとの連携を扱えるのは情報システムの担当だからです。分担の線は会社の体制で変わるため、この形は1つの目安です。

総括表｜生成AIに渡す前の4つの手順

4つの手順の分け方は本記事の整理で、製品の公式の導入手順の一覧ではありません。

検索させて渡す方法を選んだ後に、会社で決める置き場所・権限・更新のルールは、RAGとは？｜生成AIが社内文書を参照して答える仕組みの後半で扱っています。

まとめ｜社内データを生成AIで活用するには、渡す前の仕分けから

社内データを生成AIで活用するには、AIの製品を選ぶ前に、データをその都度渡すか・検索させて渡すか・学習させるかを、データの量・更新の頻度・求める正確さで決めます。どの方法でもAIが読むのは渡したデータだけなので、毎回読ませる・探させる・渡さないの仕分けと、正の版を1つにする整理が、答えの質を左右します。

社内データを生成AIに使わせるかを検討しているなら、次の3つから始められます。

1. 今日：生成AIに任せたい業務を1つ選び、その答えの元になるデータの名前を書き出す
2. 今週中：書き出したデータごとに、今の置き場所・更新の担当・変わる頻度を書き足す
3. 今週中：データを毎回読ませる・探させる・渡さないに仕分け、渡すデータの正の版がどこかを決める

最後に、社内で自分に問える1問を置きます。御社でAIに答えさせたい業務について、その答えの元になるデータを、毎回読ませるのか、探させるのか、渡さないのかを、データごとに言えますか。

• 社内データを生成AIで活用する方法は、資料をその都度渡す・検索させて渡す（RAG）・追加で学習させるの3つに分かれます。社内の事実を答えさせるなら、多くの場合は前の2つから始めます
• 3つのどれを選ぶかは、データの量・更新の頻度・答えに求める正確さの3つの条件で決まります。この3条件は当社がまとめた目安で、公式の分類ではありません
• 生成AIに渡す前のデータの整理は、業務を1つ決める・仕分ける・形をそろえる・正の版を1つにするの4つの手順で進めます。4つの手順は本記事の整理で、全社のデータを一度に整える必要はありません

製品ごとの設定値は会社の業務と権限で変わるため、この記事では判断基準までにとどめます。

社内のどのデータをAIに渡し、どこで人が確かめるかを整理するなら、自社で使えるヒントを、20の実例から探すからご確認いただけます。

自社で使えるヒントを、20の実例から探す

Claude Codeで業務がどう進むかを画面で見てから決めたい場合は、初回無料体験講座もあります。

無料体験講座を申し込む ▶

この記事について

本記事は、法人向けにClaude Codeの研修を提供するDAIJOBUが、社内データを生成AIに渡す方法の選び方と、渡す前のデータの整理の手順を、各社と公的機関の公式の案内に沿って整理したものです。