AIエージェントとRAGの違いとは？役割・組み合わせ方・選び方を解説

マワルくん

こんな人におすすめ
・AIエージェントとRAGの違いを説明できるようになりたい
・社内AIにどちらが必要か判断したい
・RAGを入れたあと、次に何をすべきか迷っている

社内でAI活用を進めていると、「社内の文書を読ませるならRAGだ」「いや、これからはAIエージェントだ」と話が混ざる場面があります。どちらも社内AIの話として並ぶので、2つから1つを選ぶ問題に見えます。けれど、2つが担う役割は別です。

RAGは社内文書などから情報を探して回答の根拠に足す仕組み、AIエージェントは目標に向けて手順を考え、道具を使って実行する仕組みです。RAGはAIが知っていることを増やし、AIエージェントはAIができることを増やします。RAGはエージェントの中に部品として入るものです。本記事では違いと使い分け、組み合わせで変わること、導入の順番、権限と評価、よくある失敗を解説します。

この記事を監修した人

AIエンジニア

小洞 映ハユル コボラ

公共系システムのSEとしてキャリアをスタートし、可用性と正確性が最優先される領域で設計・運用の基礎を固める。 その後Web業界へ転向し、AWS上のインフラ構築・運用からバックエンド開発、フロントエンド実装までを一貫して担当。70万人規模のユーザーを抱えるtoCサービスを、設計から開発まで一貫して手がけた実績を持つ。現在はテックリードとして、保険業界向けサービスの技術選定・障害対応・チームの技術判断を担っている。

詳しく見る→

AIエージェントとRAGの違い

RAGは知っていることを増やす

RAGは、質問を受けるたびに社内文書などから関連する情報を探し、回答の根拠としてAIに渡す仕組みです。AIが学習していない自社の規程や最新の資料も、探して渡せば答えに使えます。AIの知識を外から足すのが役割で、答えを受け取って使うのは人です。

エージェントはできることを増やす

AIエージェントは、目標を受け取り、手順を考え、道具を使って実行し、結果を確かめる仕組みです。答えを返すだけでなく、登録や連絡まで進めます。AIに実行の手段を足すのが役割です。

2つを組み合わせると、見落とされがちな変化が1つ起きます。検索結果を読むのが、人からAIに変わるのです。以降の章は、この変化を軸に進めます。

表で比べる違い

7つの観点で並べると、次のようになります。

いちばん大きな違いは「結果を読むのは」の行です。RAGの誤りは人が読んで止められますが、エージェントでは誤りがそのまま次の行動の前提になります。

動き方の違い

RAGは1問1答を補強する

RAGの流れは、質問を受け、資料を探し、回答を返す一方向です。1回で終わり、回答を読んで使うかどうかは人が決めます。

エージェントはループで進む

エージェントは、目標に向けて計画し、実行し、結果を確かめる周回を、目標を満たすまで繰り返します。

RAGはエージェントの部品になる

エージェントが「調べる」ときに呼ぶ道具の1つがRAGです。Anthropicは、検索や道具、記憶で強化したAIモデルをエージェントの基本部品と位置づけ、NVIDIAはエージェント型のRAGを、RAGを道具として使う形と説明しています。RAGとエージェントは選択肢ではなく、部品と仕組みの関係です。他の部品は別記事で整理しています。

【関連記事】Agentic AIとは？生成AI・AIエージェントとの違い、仕組み・活用例をわかりやすく解説

自社にはどちらが要るか

正しく答えたいならRAG

答えが社内のどこかに書いてあり、人が読んで判断する業務はRAGで足ります。Anthropicも、多くの用途では検索と例示で1回の呼び出しを最適化すれば通常は足りるとし、エージェント型の仕組みを作らない選択も含めて、最もシンプルな解を探すよう勧めています。「作らない」も正しい判断の1つです。

業務を進めたいならエージェント

複数のツールをまたぐ業務や、判断のあとに操作や連絡が続く業務はエージェントの出番です。

両方が要る業務

社内の知識を見ないと判断できず、判断のあとに処理が続く業務は両方が要ります。下の表は、よくある業務を仕分けた作例です。

よくある3つの誤解

RAGを入れればエージェントになる

なりません。RAGが補うのは回答の材料までです。手順を立て、実行し、結果を確かめて次を決めるループが無ければ、エージェントとは呼べません。

エージェントならRAGは要らない

エージェントが自分で資料を辿って取りに行く方式もあります。ただしAnthropicは、実行時の探索は事前に用意したデータの取得より遅いとし、事前の検索と実行時の探索を併用する形を挙げています。

RAGがあれば誤りは消える

消えません。そのうえで、エージェントでは誤った回答が次の行動の前提になる点が加わります。

組み合わせると何が変わるか

エージェントがRAGの使い方を判断しながら動く形を、Agentic RAG（エージェント型RAG）と呼びます。変わるのは次の3点です。

検索するかをAIが決める

毎回決まった数の資料を取るのではなく、必要なときだけ取ります。必要かどうかを問わず決まった数の文書を取り込むと、かえって役に立たない応答につながりうる、とする研究もあります。

何を探すかをAIが決める

複雑な質問を小さな問いに分け、それぞれで探す形です。問いの言い換えも、エージェントが自分で行います。

結果を見て探し直す

足りなければ探し直し、関連が薄ければ問いを書き換えます。ここで検索結果を読んでいるのは、人ではなくAIです。

導入はRAGから始める

まず社内の知識に答えさせる

対象の業務を1つ決め、RAGで答えさせ、人が答えを読んで使います。どんな質問で外れるかが、この段階で見えます。

次に手順を任せる

外れ方が分かった範囲から、下書き、提案、定型の処理の順にエージェントへ渡します。どこまで任せるかは、この順で一段ずつ広げて決めます。

逆の順番で起きること

エージェントを先に作ると、誤った行動が出たときに、探した資料が悪いのか、読み方が悪いのか、判断が悪いのかを切り分けられません。RAGの評価は検索・忠実さ・生成に分けて見られますが、エージェントでは途中の誤りが伝わり、重なっていくことがあります。

運用の重さの違い

データ整備はRAGが重い

正本を決める、古い版を消す、更新の担当を決める。エージェントを足しても、この作業は減りません。

呼び出し回数が費用を決める

エージェントは1つの依頼で検索と推論を繰り返すため、費用と待ち時間は周回の数で変わります。見積もりの前に決めておくのは、次の3つです。

• 周回の上限: 1つの依頼で何周まで回すか
• 検索の回数: 1周で何回まで探すか
• 止める条件: 何を満たせば、または何回で打ち切るか

権限の持ち方の違い

RAGは誰が見られるかを守る

利用者が本来見られない文書を検索で拾い、答えに使ってしまう問題があります。検索にも、閲覧権限を反映させる必要があります。社内AIの安全対策は別記事で整理済みです。

【関連記事】生成AIのセキュリティリスクとは？企業が知るべき脅威と安全に活用する対策を解説

エージェントは何をしてよいか

読むだけのはずの道具が、書き換えや削除までできてしまう、過剰な権限の問題です。権限は必要最小限にし、影響の大きい操作の前には人の承認を置きます。

2つは別物です。エージェントに知識を持たせるときは、依頼した人の権限で探させるのが安全な設計です。

評価の仕方の違い

RAGは回答と根拠を見る

必要な資料を取れたか、資料に忠実に答えたか、回答の質はどうかを分けて見ます。検索と生成のどちらで外れたかを分けて追えるのが強みです。

エージェントは結果と経過を見る

最後に何が変わったかという結果の状態と、どう辿り着いたかという途中の記録の両方を見ます。Anthropicは、実際の失敗から集めた20〜50件の簡単な課題で始めればよいとしています。国内でもAIセーフティ・インスティテュートが2026年7月の評価観点ガイドの改訂で、エージェント向けに「観測と制御」の観点を新設しました。

導入でよくある失敗

つまずき方には、共通の型があります。

• 知識の権限を丸ごと渡す: エージェント用の広いアカウントで社内文書につなぎ、依頼者が見られない情報で答え、動いてしまう
• 止める条件を決めずに回す: 足りない情報を探し続けて周回が増え、費用と待ち時間が膨らむ
• 「見つからない」を行動の根拠にする: 0件、取得の失敗、権限による除外を区別せず、「無い」として次に進む

最後の失敗は、検索結果を読むのがAIに変わったことで生まれます。掘り下げるのは次の章です。

【プロの視点】「無い」と「見えない」を分ける

RAGとエージェントを組み合わせたときの出来は、検索の精度で決まる。そう考えて、資料の整備や検索の調整に投資が集まりがちです。ただ、組み合わせで事故が起きる場所は別にあります。決めるのは、検索が答えを返せなかったときに、エージェントへ何を返しているかです。

RAG単体なら、「該当なし」を人が読み、「そんなはずはない」と気づけます。エージェントは道具の結果をその場の事実として受け取り、次の一手を決めます。だから空の結果が1種類しか無いと、誤った前提のまま、処理は正常に進みます。

空の結果は、次の3つに分けて返します。

• 本当に無い: 「無い」として次に進んでよい
• 探せなかった: 接続の失敗や参照先の誤り。止めて知らせる
• 見えない: 権限で除外された、または読む手段が使えない。見える人や手段に回す

記事制作に使っている自社のAIエージェントでも、「見えない」を「無い」とする取り違えがありました。自動での取得を受け付けない出典ページがあり、ブラウザで開いて確かめる決まりはあったのに、担当のエージェントにはその道具が渡っていませんでした。担当は別の手段で取った本文の写しを読み、「公開日の表記は無い」と記録して、次の工程への指示にもそう書きました。ブラウザを使える管理役のAIが開き直すと、公開日はページに明記されていました。見えなかったものが、無いものとして次へ渡っていたのです。

精度を上げる投資の前に、空の種類を分ける。見るべきは検索の精度ではなく、空の結果の返し方です。

【waltsu視点】失敗が安い順に任せる

導入の順番は、技術を積み上げる順として語られがちです。その見方では、RAGは早く通り過ぎるべき前段に見えます。waltsuは同じ順番を、1回の失敗にかかるコストが安い順として見ています。

RAGの段階の誤りは、人が読んで捨てられるものです。1回外しても安いので、質問を変え、資料を差し替え、何度でも試すことが可能です。試すたびに、略称で聞かれると外す、古い版の資料を拾う、といった外れ方の記録が溜まっていきます。

エージェントの段階の誤りは、送信や登録、更新として外に残ります。誤った案内を送れば、訂正の連絡まで必要です。1回が高くつく段階でいきなり試すと、慎重になって試す回数が減り、外れ方を知る機会そのものが少なくなります。

だから、安い段階で試行回数を稼ぎ、外れ方を知っている範囲からエージェントに渡します。任せてよい範囲は、外れ方を知っている範囲です。外れ方を知らない業務は、RAGの段階に戻して回数を重ねます。RAGに使った時間は無駄にならず、どこまで任せられるかを決める材料として残ります。

明日やる最初の一歩は、エージェントに任せたい業務を1つ選び、その中で「調べている」工程だけを書き出すことです。問い合わせ対応なら、回答を書く前に規程やマニュアルを探している時間がそれにあたります。まずその調べ物をRAGにし、人が答えを読む形で回してみてください。

よくある質問

Agentic RAGとは何ですか？

エージェントが、検索するか、何を探すか、結果が足りたかを判断しながらRAGを使う形です。1回の検索で答えを作る従来の流れより、込み入った質問に対応しやすくなります。その代わり、呼び出しが増えるぶん費用と待ち時間は増えます。

MCPとRAGは何が違いますか？

MCPは、AIアプリを外部のデータや道具につなぐための共通の規格です。RAGは必要な知識を探して回答の根拠に足す仕組みで、役割の層が違います。エージェントがMCPを通じて社内の検索を呼び出す、という組み合わせ方もあります。

費用はどちらがかかりますか？

見積もりにくいのはエージェントです。1つの依頼の中で検索と推論を繰り返し、その回数で費用が変わるためです。RAG単体は1問ごとの処理がほぼ決まっているので、利用量から見積もりやすくなります。

RAGの精度はどこまで必要ですか？

一律に決まった数値はありません。目安は、どんな質問で外れるかを人が把握できていることです。外れ方が分からないままエージェントに渡すと、誤りがそのまま行動に変わります。

中小企業はどちらから始めるべき？

答えが社内のどこかに書いてある業務で、RAGから始めるのが無難です。規程やマニュアル、過去の提案書のように、探す手間がかかっている資料が向きます。手順を任せるのは、外れ方が見えてからでも遅くありません。

まとめ

AIエージェントとRAGは、どちらかを選ぶものではありません。RAGはAIが知っていることを増やし、エージェントはできることを増やします。RAGはエージェントの中で、調べる工程を受け持つ部品として働きます。

組み合わせたときに変わるのは、検索結果を読むのが人からAIに移ることです。だから導入はRAGから始め、人が答えを読む段階で外れ方を集めてから手順を任せます。空の結果を3つに分けて返す設計も、エージェントに渡す前に決めておきます。

まずは、任せたい業務の中にある調べ物を1つ、RAGで回すところから始めてみてください。社内AIを質問に答える段階で止めるか、業務を進める段階まで進めるかに迷う場面が出てきたら、waltsuが業務の切り出しから導入の順番づくりまでご支援します。