マワルくん
・RAGの意味を知りたい
・社内データをAIに使わせたい
・AIの誤回答を減らしたい
生成AIを業務に取り入れる企業が増える一方、「当社の出張規程を教えて」と聞いても正しい答えは返ってきません。AIは自社の規程を学習しておらず、一般的な内容を推測して答えるためです。この問題を解決する仕組みが「RAG（検索拡張生成）」です。
RAGとは、生成AIが回答を作る前に外部のデータから関連情報を検索し、その情報を根拠として回答を生成する仕組みです。ただし先にお伝えしておきたいのは、RAG＝AIに社内情報を学習させる技術、ではないということです。重要なのは、質問を受けるたびに必要な資料を探し、「AIに正しい資料を渡すこと」。覚えさせるのではなく、その都度調べさせる仕組みだと理解すると、導入の判断を誤りません。本記事では、RAGの意味と仕組み、ベクトル検索、生成AI単体やファインチューニングとの違い、メリット・課題、活用例、導入の進め方まで解説します。
この記事のゴール（読了目安 約10分）
RAGを「必要な情報を検索してLLMに渡す仕組み」として理解し、自社にRAGが必要かどうか、導入するなら何から手をつけるべきかを判断できるようになる。
RAGとは
検索拡張生成の意味
RAGは「Retrieval-Augmented Generation」の略で、検索拡張生成と訳されます。検索によって生成を補強する構成で、2020年の論文において、学習済み言語モデルによる生成と、外部データベース（当時はWikipedia）からの検索を組み合わせる枠組みとして提唱されました（Lewis ほか「Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks」（arXiv:2005.11401））。流れは、質問を受ける→資料を検索する→資料をAIに渡す→資料をもとに回答する、の4段階。人が「資料を見ないと答えられません」と言って調べてから答えるのと同じ動きです。
生成AIとの関係
RAGは生成AIを置き換えるものではなく、組み合わせて使う仕組みです。回答を作るのは従来どおりLLM（大規模言語モデル）で、RAGが担うのは「どの情報をLLMに渡すか」です。この役割分担が理解の出発点になります。
なぜRAGが必要か
生成AI単体には、業務利用のうえで3つの弱点があります。
- 社内情報を知らない: 自社の規程・マニュアル・顧客情報・過去案件には答えられない
- 最新情報に弱い: 学習データには時点があり、それ以降の制度変更や新商品は反映されない
- 誤回答が起こる: 知らないことでも、もっともらしい文章として出力してしまう（ハルシネーション）
とくに厄介なのが3点目です。自然な文章で誤った内容が返るため、確認しないと見逃します。RAGはこの3つに対し、「答える前に正しい資料を渡しておく」形で対処します。
RAGの仕組み
RAGは5つのステップで動いています。
- データを登録する: 社内文書を分割（チャンク化）して保存する
- 質問を受け取る: 質問をデータと同じ形式へ変換する
- 関連情報を検索する: 登録済みデータから、関連度の高い箇所を上位数件取り出す
- 情報をLLMへ渡す: 「以下の資料をもとに回答してください」という指示とともに渡す
- 回答を生成する: LLMが資料を読んで回答を作る。参照箇所の併記もできる
「出張の宿泊費の上限は」という質問なら、規程を検索し、該当ページをAIへ渡して回答させる流れです。モデルは一切変わらず、渡す資料だけが変わります。
ベクトル検索とは
RAGの検索を支えているのがベクトル検索です。文章の意味を数値の並び（ベクトル）に変換し、意味が近い文章ほど近い位置に配置することで、単語が一致しなくても検索できるようにする技術です。変換したベクトルは専用のデータベースに保存します。
「ホテル代はいくらまで」で「宿泊費の上限」という文書を見つけられるのが、キーワード検索との違いです。一方、型番や固有名詞のように完全一致してほしい検索は苦手な場合があり、実務ではキーワード検索と組み合わせる構成もよく使われます。
生成AI単体との違い
生成AI単体は学習済みの知識だけで答えるため、そこに含まれない情報は推測になります。RAGは質問のたびに外部の情報を参照するため、参照先を差し替えれば答える内容も変わります。
重要なのは、RAGを使ってもモデル自体は変わらない点です。AIが賢くなるのではなく、渡す資料が変わるだけ。この理解があると、次のファインチューニングとの違いも整理できます。
ファインチューニングとの違い
「社内データをAIに使わせる」方法として、RAGとよく比較されるのがファインチューニングです。以下の表にまとめます。
RAGは資料を渡す仕組み、ファインチューニングは受け答えの型を教える仕組みです。組み合わせることもできます。なお近年はモデルが一度に扱える文章量が広がっており、参照したい資料が少量なら、検索の仕組みを作らず毎回渡すだけで足りるケースもあります。文書量と更新頻度から判断してください。
メリット・課題
メリットは、社内情報を使える、最新情報を使える、誤回答を減らせる、根拠を示しやすい、情報を更新しやすい、の5つです。とくに効くのは4つ目で、回答から根拠にすぐ飛べることが社内定着の条件になります。
一方、課題もあります。以下の表にまとめます。
2つ目は誤解されやすい部分です。RAGを入れればハルシネーションがなくなるわけではありません。検索結果が誤っている、必要な資料を取得できていない、文書が古い、といった場合には誤回答が発生します。RAGは誤回答をゼロにする技術ではなく、回答を根拠のある情報へ近づける仕組みです。
業務別の活用例
RAGは、参照させたい文書がある業務であれば幅広く使えます。
社内問い合わせでは規程を参照して総務・人事への定型質問に答え、顧客対応ではFAQや問い合わせ履歴から一次対応を行います。営業支援なら提案書や商談記録から類似案件を探し、法務ではひな形や審査基準と契約書を突き合わせる。技術・製造では設計書やトラブル対応記録から不具合事例を探し、議事録や社内wikiの横断検索にも使えます。
共通するのは、「どこかに答えは書いてあるが、探すのに時間がかかる」業務である点です。答えがどこにも書かれていない業務に入れても効果は出ません。まず社内向けから始めると、誤回答のフィードバックを集めやすくなります。
RAG導入の流れ
ツール選定から入らないことが重要です。
- STEP1 目的を決める: 解決したい課題を1つに絞る
- STEP2 データを選ぶ: 全社の文書ではなく、その業務で実際に参照される文書に絞る
- STEP3 データを整える: 古い版の削除、重複の整理、構造の統一。精度を最も左右する
- STEP4 検索環境を作る: 文書を分割してベクトル化する。主要クラウドが機能を提供しており、自前で組む範囲は小さい
- STEP5 LLMとつなぐ: どんな指示とともに渡すか（プロンプト）で回答の質が変わる
- STEP6 回答を評価する: 想定質問と正解をリスト化し、実際の回答と突き合わせる
- STEP7 継続的に改善する: 誤回答の原因を切り分け、検索方法や分割を調整する
自社環境でモデルを動かす選択肢は、ローカルLLMの記事で解説しています。
精度を高めるポイント
期待した精度が出ないときの打ち手は5つです。
- データを整理する: 正本を1つに絞る。新旧が混在するとAIは判断できない
- 文書を分割する: 細かすぎると文脈が切れ、大きすぎると無関係な情報が混ざる
- 検索精度を高める: キーワード検索との併用、検索結果の並べ替え（リランキング）
- 参照元を表示する: 精度より、利用者が誤りに気づける状態を作る
- 回答を評価する: 変更前後を比較し、感覚でなく数字で判断する
うまくいかない原因は、データが古い、検索結果が悪い、情報量が多すぎて重要な箇所が埋もれる、評価基準がなく改善点を特定できない、作って終わりで運用されない、の5つです。最も多いのが4つ目で、評価の仕組みがないと改善したかどうかも判断できません。この点は後述します。
社内で扱ってよいデータの範囲や権限設計は、生成AIガイドラインの記事で解説しています。
RAGの進化
RAGは「1回検索して答える」形から、より高度な方式へ広がっています。Advanced RAGは、質問文を書き換える、検索結果を並べ替えるなど、検索の前後に工夫を加える方式です。
GraphRAGは、文書から要素とその関係性を抽出し、知識グラフとして保持する方式で、Microsoftが公開したことで広く知られるようになりました。データセット全体を見渡すような質問に強い一方、グラフの構築にコストがかかるため、特定の箇所を狙う通常の質問応答なら標準的なRAGで足りる場合も多いとされています（Microsoft Research「GraphRAG: New tool for complex data discovery now on GitHub」）。
Agentic RAGは、AI自身が「何を調べるか」を考えて検索する方式です。情報が不足すれば追加で検索し、複数の情報源を比較してから回答します。精度は上がりやすい一方、呼び出し回数が増えるためコストと応答時間は増加します。
AIエージェントとの関係
RAGとAIエージェントは混同されやすいものの、担う役割が異なります。RAGは「必要な情報を探して渡すこと」、AIエージェントは「目的を理解し、手順を考え、実行すること」を担います。文章にたとえるなら、RAGが資料調べ、エージェントが仕事の進行です。
実際には組み合わせて使われ、エージェントが業務を進める途中で必要な情報をRAGで取りに行きます。Agentic RAGは、この2つが融合した形です。AIエージェントの基本は、別記事で解説しています。
【プロの視点】品質は3層の掛け算
RAGがうまくいかないとき、まず検討されがちなのが「もっと高性能なLLMに変える」という打ち手です。しかし、これで解決することは多くありません。
RAGの回答は、質問→検索→関連情報→LLM→回答という流れで作られます。この構造では、検索の段階で間違った資料を取得すれば、どれだけ高性能なLLMでも間違った情報しか読めません。上流の誤りは下流で回復できないのです。
そのためRAGの品質は、第1層のデータ（正しいか・新しいか・整理されているか）、第2層の検索（必要な情報を取り出せるか）、第3層の生成（取得情報をもとに正しく回答できるか）の掛け算で捉えるのが実務的です。どれか1つがゼロに近ければ、全体もゼロに近づきます。「どのLLMを使うか」より、「必要な情報を正しく取り出せているか」のほうが結果を左右する場面が多いと考えてください。
【waltsu視点】評価の型を先に作る
RAG導入でよくあるのが「まず作って、使いながら改善する」という進め方です。方針としては妥当ですが、実際にはここで止まります。
理由は、改善しようとした時点で「良くなったかどうかを判断する基準がない」ためです。誰かが「精度が低い」と言い、担当者が設定を変え、別の誰かが「前より良くなった気がする」と言う。これでは変更が効いたのか偶然かも分からず、数回試したところで手が止まります。
そこで有効なのが、作る前に評価の型を用意することです。社員から出そうな質問を30問ほど書き出し、正しい答えと根拠の文書名を人間が用意し、変更のたびに通して正答数を記録する。これだけで十分です。
waltsuでもコンテンツ制作で社内ナレッジを参照させる際、同じように想定質問と正解のセットを先に作っています。効果は精度管理だけではありません。判断基準があると、分割の仕方や検索方法を気軽に変えて試せるようになります。RAGの成否を分けるのは、最初に作ったシステムの完成度ではなく、その後に何回試せたかです。
よくある質問
RAGとは簡単にいうと？
生成AIが回答する前に外部データから関連情報を検索し、それを根拠として回答させる仕組みです。覚えさせるのではなく、質問のたびに必要な資料を渡すイメージです。
RAGと生成AIの違いは？
生成AIは学習済みの知識で答えます。RAGはそれに検索の工程を加え、外部の情報を参照させます。モデル自体は変わらず、AIに渡す情報が変わります。
ファインチューニングとの違いは？
RAGは知識を参照させる仕組み、ファインチューニングは受け答えの傾向を調整する手法です。更新が頻繁な社内知識はRAG、文体や形式を揃えたい場合はファインチューニングが向いています。
RAGならハルシネーションはなくなる？
なくなりません。検索結果が誤っている、必要な資料を取得できていない、文書が古い、AIが内容を誤読する、といった場合に誤回答は起こります。減らしやすくなる仕組みであり、ゼロにする技術ではありません。
どんなデータを使える？
社内規程、マニュアル、FAQ、議事録、提案書、契約書などテキストとして扱える文書が対象です。ただし個人情報や機密情報を扱う場合は、アクセス権限の設計を先に決めてください。
まとめ
この記事の要点
・RAGは「AIに学習させる技術」ではなく、質問ごとに資料を検索して渡す仕組み
・生成AI単体の弱点（社内情報を知らない・最新情報に弱い・誤回答）を補う
・回答品質はデータ×検索×生成の掛け算。LLMを変えても検索が悪ければ改善しない
・作る前に想定質問と正解のセットを用意すると、改善の試行を回せるようになる
RAGとは、生成AIが回答する前に外部データから関連情報を検索し、それを根拠として回答を生成する仕組みです。生成AI単体では答えられない社内情報や最新情報に対応でき、参照元を示せるため利用者が根拠を確認できます。
ただし重要なのは、RAGはAIを賢くする技術ではなく、AIに正しい資料を渡す仕組みだという点です。品質はデータ・検索・生成の掛け算で決まるため、高性能なLLMに変えるだけでは改善しません。導入は、対象業務を1つに絞り、参照される文書を整理し、評価の型を先に作ることから始める。「生成AIは導入したが、文章作成や要約から先に進めていない」「社内規程やマニュアルをAIに活用させたい」という場合は、waltsuがRAG・社内AI・AIエージェントを含むAI業務導入の相談からご支援します。
