AIアセスメント 100,000円(税別)

詳しく見る
FDX株式会社
Tech Note

RAG(検索拡張生成)とは?社内RAGの仕組みと精度の測り方

RAG(検索拡張生成)とは、質問に関係する文書を検索し、その内容を根拠に生成AIが回答する仕組みです。学習との違い、社内RAGで回答がずれる原因、検索と回答を分けた精度の測り方、権限の設計をFDX株式会社が解説します。

FDX株式会社 編集部監修: 佐藤 拓哉(生成AI協会 理事)

社内の​規程や​マニュアルに​ついて​生成AIに​質問すると、​もっと​もらしいが​根拠の​ない​答えが​返ってくることがある。​モデルが​社内の​文書を​知らないためだ。​この​問題に​対して、​質問の​たびに​関係する​文書を​検索し、​その​内容を​根拠と​して​生成AIに​答えさせる​仕組みが​RAG​(Retrieval-Augmented Generation、​検索拡張生成)である。

RAGは、​社内データで​AIを​「学習させる」方​法ではない。​モデルは​そのままで、​回答の​たびに​検索した​文書を​渡す。​だから​文書を​更新して​索引に​反映すれば、​モデルを​学習し直さなくても​答えに​使える。​ただし、​検索で​正しい​文書を​拾えなければ、​どれ​ほど​性能の​高い​モデルでも​正しく​答えられない。

本記事は、​元の​論文と​各社の​公式ドキュメント、​公的機関の​資料を​2026年11月5日に​確認した​内容で​書いている。

この​​記事の​​対象読者

主な​読者は、​社内の​規程、​マニュアル、​問い​合わせ履歴などを​生成AIで​検索できるように​したい情報システム部​門や​DX推進部門の​担当者である。​RAGを​導入した​ものの​回答の​精度が​上がらず、​何から​直せば​よいか​分からない​開発の​担当者にも​向けている。

RAGとは​​(要点3行)

RAGの​仕組み

RAGは、​事前の​準備と、​質問への​回答の​2段で​動く。

RAGの仕組みを上下2段で示した図。上段は事前の準備で、左から「社内文書を取り込む」「チャンクに分割する」「埋め込み(ベクトル)に変換する」「索引に保存する(権限の情報も一緒に)」と並ぶ。下段は質問への回答で、左から「利用者の質問」「検索(キーワードとベクトル、利用者の権限で絞る)」「並べ替え(リランク)」「生成AIが検索結果を根拠に回答(引用付き)」と並ぶ。上段の索引から下段の検索へ矢印が伸びる。下部に「文書を更新しても、モデルを学習し直す必要はない。毎回、検索した文書を渡して答えさせる」と記す。
段階工程中身
準備取り込みPDF、​Word、​社内Wiki、​問い​合わせ履歴などから​テキストを​取り出す
準備分割長い​文書を、​検索しやすい​大きさの​断片​(チャンク)に​分ける
準備埋め込み各チャンクを、​意味の​近さを​計算できる​数値の​列(ベクトル)に​変換する
準備索引ベクトルと​本文、​文書の​権限や​更新日などの​情報を​一緒に​保存する
回答検索質問に​近いチャンクを​探す。​利用者が​読めない​文書は​ここで​除く
回答並べ替え検索結果を、​質問との​関連の​強さで​並べ直す​(リランク)
回答生成上位の​チャンクを​生成AIに​渡し、​その​内容を​根拠に​回答させる。​出典の​文書を​示す

検索の​方式は​1つではない。​単語の​一致で​探すキーワード検索と、​意味の​近さで​探すベクトル検索が​あり、​両方を​並行して​実行して​結果を​統合する​方​式は​ハイブリッド検索と​呼ばれる。​Microsoftの​Azure AI Searchの​公式ドキュメントは、​製品コード、​専門用語、​日付、​人名のような​語は​キーワード検索の​ほうが​強いと​説明している。

RAGと​いう​名前は、​2020年の​NeurIPSで​発表された​Lewisらの​論文​「Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks」に​由来する。​Facebook AI Research、​ユニバーシティ・カレッジ・ロンドン​(UCL)、​ニューヨーク​大学の​研究者に​よる​論文で、​事前学習した​モデルの​知識と、​外部から​検索する​知識を​組み合わせて​文章を​生成する​方​法を​提案した。

「学習させる」との​​違い​​|ファインチューニング・長い​​コンテキストとの​​使い分け

「社内データを​AIに​学習させる」と​いう​説明を​よく​見かけるが、​一般的な​社内RAGは、​生成モデルを​追加で​学習させずに​作れる。​総務省と​経済産業省の​「AI事業者ガイドライン​(第1.2版)」も、​ファインチューニングのような​追加学習とは​別に、​推論の​段階で​「RAG等を​介して​外部​知識を​補完した​情報」を​使う​ものと​して​位置づけている。​両者は​排他ではなく、​回答の​形式を​ファインチューニングで​そろえたうえで、​知識は​RAGで​渡すと​いう​併用も​できる。

方法何をするか向いている場面注意点
RAG回答の​たびに​文書を​検索して​モデルに​渡す社内文書のように​量が​多く、​頻繁に​更新される​知識を​使わせる検索で​正しい​文書を​拾えないと​答えられない
長い​コンテキスト文書を​検索せず、​全部を​プロンプトに​入れる文書の​量が​少ない​場合量が​増えると​費用と​応答時間が​増える
ファインチューニングモデルを​追加で​学習させる回答の​形式や​口調、​特定の​作業の​やり方を​そろえる知識の​更新の​たびに​学習し直す必要が​ある

Anthropicは​2024年9月の​技術記事で、​知識ベースが​20万トークン​(約500ページ)より​小さければ、​RAGを​使わずに​全部を​プロンプトに​入れれば​よいと​書いている。​OpenAIの​精度改善の​ガイドも、​モデルに​足りない​知識を​補う方​法​(RAG)と、​出力の​形式や​推論の​しかたを​そろえる​方​法​(ファインチューニング)を​分けて​扱っている。​約500ページは​英語の​文書を​前提に​した​目安で、​日本語の​文書では​1ページ​あたりの​トークン数が​変わる。​利用者が​閲覧できる​範囲の​文書に​絞ったうえで、​実際の​トークン数が、​指示文や​質問、​回答の​分を​足しても​モデルの​上限に​収まるなら、​RAGを​作る​前に​全部を​渡す方​法を​試す価値が​ある。

社内RAGで​​回答が​​ずれる​​5つの​​原因

RAGの​回答が​外れる​とき、​原因は​モデルだけでなく、​その​手前の​工程にも​ある。

原因起きること典型的な例
1. 文書​その​もの古い版と​新しい​版が​混在し、​古い​ほうを​根拠に​答える改定前の​規程が​共有フォルダに​残っている
2. 分割答えに​必要な​前提が​別の​チャンクに​切り離される表の​見出しと​中身が​別の​チャンクに​なり、​数字の​意味が​分からない
3. 検索正しい​文書が​上位の​検索結果に​入らない型番や​略語での​質問を、​意味の​検索だけで​探している
4. 渡し方渡した​資料の​中ほどに​ある​情報を​見落とす検索結果を​多く​渡しすぎて、​答えが​埋もれる
5. 生成検索結果に​ない​内容を​補って​答える「規程には​ない」と​答えるべき質問に、​一般論で​答える

4つ目に​ついて、​Liuらの​研究​「Lost in the Middle」​(TACL、​2024年)は、​関連する​情報が​渡した​文脈の​先頭か​末尾に​ある​ときに​精度が​最も​高く、​中ほどに​あると​下がる​傾向を​報告している。​検索結果を​多く​渡せば​安心と​いうわけではない。

な​お、​複数の​文書を​またぐ​関係や、​「全部で​何件か」のような​集計を​求める​質問は、​断片を​探して返すRAGが​苦手と​する​型である。​こうした​質問への​対応は、ナレッジグラフの​記事で扱っている。

RAGの​​精度の​​測り方

RAGの​精度は、​検索と​回答に​分けて​測る。​まとめて​「正しく​答えたか」だけを​見ると、​外れた​ときに​どこを​直せば​よいかが​分からない。

RAGの精度の測り方を示した図。左に評価用の質問セット(実際の質問、根拠になる箇所、正解の回答)を置く。中央は2段に分かれる。上段の「検索の評価」は、回答に必要な箇所を含むチャンクが上位の検索結果に入っているかを測る。下段の「回答の評価」は、回答が検索結果に忠実か、質問に答えているか、正解の回答と合っているかを測る。右に、検索で落ちていれば分割・検索方式・並べ替えを、回答で外れていれば指示文・渡す件数・モデルを直すと記す。下部に「検索と回答を分けて測ると、どこを直せばよいかが分かる」と記す。

評価用の​​質問セットを​​作る

最初に、​実際に​寄せられる​質問を​集め、​それぞれに、​回答の​根拠に​なる​箇所​(どの​文書の​どの​部分か)と​正解の​回答を​付けた​評価用の​質問セットを​作る。​問い​合わせ履歴や、​現場の​担当者が​よく​受ける​質問から​選ぶと​よい。​「規程に​書かれていない」ことが​正解に​なる​質問も​入れておくと、​根拠の​ない​回答を​見つけられる。

検索の​評価

検索の​評価では、​回答に​必要な​箇所を​含むチャンクが​上位の​検索結果に​入っているかを​測る。​たとえば、​根拠が​文書の​中に​ある​質問に​ついて、​上位5件に​根拠の​箇所が​含まれる​割合を​出す。​「規程に​書かれていない」ことが​正解の​質問は​この​母数から​外し、​回答の​評価の​側で、​正しく​「見つからない」と​答えた​割合と​して​別に​数える。​文書単位で​数えると、​正しい​規程集の​関係ない​ページを​拾っても​成功に​数えてしまう​ため、​箇所の​単位で​確かめる。​ここで​落ちている​質問は、​生成の​モデルを​替えても​直らない。

回答の​評価

RAGの​評価手法RAGAS​(Esら、​EACL 2024)は、​回答が​渡した​文脈に​忠実か​(Faithfulness)、​質問に​答えているか​(Answer Relevance)、​渡した​文脈が​質問に​必要な​情報に​絞られているか​(Context Relevance)の​3つの​観点を​示している。​このうち3つ目は​検索の​側の​観点である。​回答の​評価では、​RAGASの​前の​2つに、​正解の​回答との​照合を​加えた​次の​3つを​見ると​よい​(編集部の​整理)。

観点確かめること外れていた​ときに​疑う​場所
根拠への忠実さ回答の​内容が、​検索結果に​書かれているか指示文、モデル
質問への回答聞かれた​ことに​答えているか指示文、​質問の​言い​換え
正解との一致正解の​回答と​内容が​合っているか検索、渡す件数

主要な​クラウドには​評価の​機能も​ある。​AWSの​Amazon Bedrockには、​検索だけを​評価する​方​式と、​検索と​生成を​まとめて​評価する​方​式が​ある。​Microsoftの​Foundryには、​回答が​根拠に​沿っているか​(Groundedness)や、​検索結果の​順位の​質を​測る​評価機能が​ある。​どの​道具を​使う​場合でも、​評価用の​質問セットは​自社で​作る​必要が​ある。

行政の​調達の​資料にも、​測り方が​載っている。​デジタル庁の​「行政の​進化と​革新の​ための​生成AIの​調達・利活用に​係る​ガイドライン」​(2026年6月12日決定)は、​調達チェックシートの​対策例と​して、​RAGを​使う​生成AIシステムでの​十分な​検索精度の​確保と、​出力と​検索結果の​関連性・​一貫性の​スコアの​測定を​挙げている。​対策例への​準拠は​必須ではなく、​必要な​ものを​選んで​調達仕様書に​盛り込む位置づけである。

精度を​​上げる​​打ち手

評価で​外れた​場所が​分かったら、​その​工程を​直す。​主な​打ち手を​工程ごとに​まとめる。

工程打ち手効く場面
文書古い版を​除き、​更新日や​部​署などの​情報を​付ける版の​混在、​部署ごとに​異なる​規程
分割見出しや​表の​単位で​分ける。​各チャンクに​文書名や​章の​情報を​添える前提が​切り離されて​意味が​通らない
検索キーワード検索と​ベクトル検索を​併用する​(ハイブリッド検索)型番、​略語、​固有名詞での​質問
並べ替えリランクで​上位の​質を​上げ、​渡す件数を​絞る関係の​薄い​結果が​上位に​混ざる
生成検索結果に​ない​ときは​「見つからない」と​答えさせ、​出典を​示させる根拠の​ない​補足、​一般論での​回答

効果の​大きさの​例と​して、​Anthropicの​2024年の​実験が​ある。​各チャンクに​文書全体の​中での​位置づけを​短く​添えてから​埋め込みを​作る​方​法​(Contextual Retrieval)で、​上位20件に​必要な​情報が​入らない​割合が​5.7%から​3.7%に​下がった​(35%減)。​同じ​工夫を​キーワード検索にも​使うと​2.9%​(49%減)、​さらに​リランクを​組み合わせると​1.9%​(67%減)まで​下がった。​数字は​当時の​モデルと​データでの​結果だが、​分割と​検索の​工夫で​検索の​失敗を​大きく​減らせる​ことを​示している。

権限と​​安全の​​設計

社内RAGの​重大な​リスクの​一つは、​利用者が​本来読めない​文書の​内容が​回答に​混ざる​ことである。​たとえば​人事の​評価資料が​検索対象に​入っていると、​一般の​社員の​質問への​回答に、​その​内容が​引用されかねない。

対策の​基本は、​文書の​閲覧権限を​索引にも​持たせ、​検索の​段階で​利用者が​読める​文書だけに​絞る​ことだ。​Microsoftの​Azure AI Searchは、​文書単位の​アクセス制御と​して​4つの​方​式を​用意している。

同じ​ドキュメントは​注意点を​2つ挙げている。​元の​システムで​権限を​変えても、​検索結果に​反映されるのは​索引へ​同期した​後に​なる。​また、​文書を​チャンクに​分ける​場合は、​各チャンクにも​権限の​情報を​持たせないと、​チャンク単位では​絞り込まれない。

OWASPの​「Top 10 for LLM Applications 2025」は、​こうしたリスクを​「Vector and Embedding Weaknesses​(ベクトルと​埋め込みの​弱点)」と​して​まとめ、​対策の​最初に、​細かい​アクセス制御と、​権限を​考慮した​ベクトルストアを​挙げている。​OWASPは​2026年8月に​改訂版も​公開した。​デジタル庁の​ガイドラインも、​RAG用の​データと​データストアへの​参照権限を、​利用者や​役割に​応じて​適切に​設定する​ことを​対策の​例に​挙げている。

もう​1つの​注意点は、​検索した​文書に​書かれた​指示に​AIが​従ってしまう​問題である。​Greshakeらの​研究​(2023年)は、​検索されそうな​データに​指示を​仕込むことで、​生成AIを​使った​アプリの​動きを​外から​操作できる​ことを​示した。​社外の​Webページや、​誰でも​書き込める​社内Wikiを​検索対象に​入れる​場合は、​検索結果を​「指示」ではなく​「資料」と​して​扱う​よう、​指示文と​出力の​確認で​備える。

社内RAGの​​導入の​​進め方

ここまでを​踏まえた​進め方の​例を​示す。​期間は、​対象の​文書が​数千件程度の​場合の​目安である。

段階期間の目安やること
1. 対象を​決める2週間対象の​業務と​文書を​1つに​絞る。​文書の​量が​少なければ、​全部を​プロンプトに​入れる​方​法を​先に​試す
2. 文書と​権限を​整える2〜4週間古い版を​除き、​文書ごとの​閲覧権限と​更新日を​整理する
3. 評価用の​質問セットを​作る2週間実際の​質問を​50〜100件集め、​回答の​根拠に​なる​箇所と​正解の​回答を​付ける
4. 作って​測る4〜6週間検索と​回答を​分けて​測り、​外れた​工程を​直す。​目標の​値に​届いたら​一部の​利用者に​公開する
5. 運用する継続回答への​評価と、​答えられなかった​質問を​記録し、​文書の​追加と​質問セットの​更新を​続ける

FDXの​支援

FDXは​AX​(AI Transformation)の​実装パートナーと​して、​業務の​分解から​実装・現場定着・運用移管までを​対応領域と​する。​社内RAGでは、​検索の​仕組みを​作る​前に、​どの​業務の​どの​文書を​対象にし、​誰に​何を​読ませて​よいかを​決める​ことを​重視する。

どの​業務から​社内RAGを​始めるべきかを​相談したい​場合はお問い合わせから、​まず​自社の​状況を​確かめたい​場合はAX診断からどうぞ。


よく​​ある​​質問​(FAQ)

Q1. RAGとは​​何か?

A. RAG​(Retrieval-Augmented Generation、​検索拡張生成)は、​質問に​関係する​文書を​検索し、​その​内容を​根拠と​して​生成AIに​回答させる​仕組みである。​2020年の​NeurIPSで​発表された​Lewisらの​論文に​由来する。​文書を​更新する​たびに​モデルを​学習し直す必要は​なく、​索引に​反映すれば​回答に​使える。

Q2. RAGと​​ファインチューニングは​​何が​​違うのか?

A. RAGは​回答の​たびに​文書を​検索して​モデルに​渡す方​法で、​モデル自体を​変えなくても​使える。​ファインチューニングは​モデルを​追加で​学習させる​方法である。​両者は​併用も​できる。​頻繁に​更新される​社内の​知識を​使わせるなら​RAG、​回答の​形式や​口調、​作業の​やり方を​そろえたいなら​ファインチューニングが​向く。

Q3. 社内RAGの​​精度は​​どう​​測るのか?

A. 検索と​回答に​分けて​測る。​実際の​質問に、​回答の​根拠に​なる​箇所と​正解の​回答を​付けた​評価用の​質問セットを​作り、​検索では​根拠の​箇所を​含むチャンクが​上位に​入っているか、​回答では​検索結果に​忠実か、​質問に​答えているか、​正解と​合っているかを​確かめる。​検索で​落ちている​質問は、​生成の​モデルを​替えても​直らない。

Q4. RAGの​​精度が​​上がらない​​ときは​​何から​​直すべきか?

A. まず、​外れているのが​検索か​回答かを​切り分ける。​検索で​落ちているなら、​文書の​版の​整理、​分割の​単位、​キーワード検索との​併用、​リランクを​見直す。​回答で​外れているなら、​検索結果に​ない​ときは​「見つからない」と​答えさせる​指示や、​渡す件数を​見直す。

Q5. 社内RAGで​​情報漏えいを​​防ぐには?

A. 文書の​閲覧権限を​索引にも​持たせ、​検索の​段階で​利用者が​読める​文書だけに​絞る。​チャンクに​分ける​場合は、​各チャンクにも​権限の​情報を​持たせる。​元の​システムで​権限を​変えた​ときに、​索引への​同期が​いつ​行われるかも​確かめて​おく。

Q6. 文書が​​少ない​​場合も​​RAGは​​必要か?

A. 必要ない​こともある。​Anthropicは、​知識ベースが​20万トークン​(約500ページ)より​小さければ、​RAGを​使わずに​全部を​プロンプトに​入れれば​よいと​している。​ページ数は​英語の​文書での​目安なので、​日本語の​文書は​実際の​トークン数で​確かめる。​利用者が​閲覧できる​文書に、​指示文や​質問、​回答の​分を​足した​トークン数が​モデルの​上限に​収まるなら、​まず​全部を​渡す方​法を​試し、​量が​増えてから​RAGに​移る​判断も​できる。


次に​​読むべき記事


まとめ


出典・参考文献

※ 英語資料からの​引用・要約は​編集部に​よる​翻訳である。​回答が​ずれる​5つの​原因、​精度を​上げる​打ち手の​表、​導入の​進め方の​表は、​公開情報と​FDXの​支援経験を​踏まえた​編集部の​整理であり、​特定の​製品の​機能を​保証する​ものではない。​各製品の​機能と​提供状況は​変わる​ため、​導入時に​公式ドキュメントで​確認されたい。

Whitepaper

AX 診断と研修設計

読んだ後の「次に何をするか」のたたき台。

  • 成果が出ない真因「戦略不在」— 3つのつまずきの構造
  • 戦略=CAIO・診断=AIアセスメント・育成=AI-OJTの三位一体モデル
  • AI導入の4ステップと、年6,552万円削減などの成功事例

AX​(AI Transformation)の​実装パートナーと​して

業務の分解から実装・現場定着・運用移管まで一気通貫で支援します。