# AIゲートウェイとは？APIゲートウェイとの違いと要否の決め方

- URL: https://www.waltsu.co.jp/magazine/ai/ai-gateway/
- カテゴリ: AI活用 > 生成AIの基本
- 執筆: 藤井 俊輔（代表取締役） / 監修: 小洞 映（システムエンジニア）
- 公開日: 2026-11-04 / 最終更新日: 2026-11-04
- 発行: waltsu株式会社（waltsu MAGAZINE）

## こんな人におすすめ

- AIゲートウェイという語の意味を知りたい
- APIゲートウェイやMCPゲートウェイとの違いが分からない
- 自社に要るのかを判断したい

生成AIのAPIを呼ぶツールが社内に増えると、誰がどのモデルをどれだけ使ったのかを説明しにくくなります。そこで耳にするのがAIゲートウェイという語です。 AIゲートウェイはアプリとAIモデルの間に置く層で、接続と記録、制御をそこに集めます。入れる価値を左右するのは、機能の多さより、どの通信を通せるかです。本記事では2026年11月時点の公式情報を中心に、似た語との違い、製品の型、リスク、要否の決め方を整理します。

**この記事のゴール（読了目安 約7分）**：似た語との呼び分けを説明でき、今の自社に要るかを決められるようになる。

## この記事の結論

- アプリとモデルの間で、接続と記録、制御をまとめる層
- 語の使い方は人で違うので、通す通信で確かめる
- 通り道と鍵とログが1か所に集まる
- 接続先を差し替えていない通信には届かない

## AIゲートウェイとは

AIへの通信をまとめて通す中継点です。

### アプリとモデルの間に置く層

アプリは提供元ごとに直接つながず、ゲートウェイへ送ります。ゲートウェイ自身はモデルを動かさず、**誰がどのモデルをどれだけ使ったかを記録し、制御します**。生成AIのAPIの課金は多くの場合[トークン単位](https://www.waltsu.co.jp/magazine/ai/ai-cost-per-task/)です。

### 決まった定義はまだない

確認した範囲では、規格で決まった定義はまだなく、製品や調査会社の説明で使われている語です。[Microsoftの公式文書](https://learn.microsoft.com/ja-jp/azure/ai-gateway/compare-api-management-service)も、API管理の文書ではこの語が製品でなく機能を指すことがある、と注記しています。**語だけでは中身を判断できません**。

## APIゲートウェイとの違い

違いは通信の向きと、数える単位です。併用もできます。

### 通信の向きが逆

APIゲートウェイが受けるのは、外から自社のAPIへ入る通信です。AIゲートウェイは**自社のアプリから外のモデルへ出ていく通信**を扱います。[Kongの解説](https://jp.konghq.com/blog/what-is-an-ai-gateway)での呼び名は出口側の中継（イグレスプロキシ）です。ただし[社内にモデルを置く構成](https://www.waltsu.co.jp/magazine/ai/local-llm/)もあります。

### 数える単位と見る中身

APIゲートウェイは主に回数で数えます。AIゲートウェイの単位はトークンで、**プロンプトと応答の中身まで**検査や記録の対象にします。

![左にAPIゲートウェイ（外の利用者から自社のAPIへ入る通信、回数で数える、認証と振り分け）、右にAIゲートウェイ（自社のアプリから外のモデルへ出る通信、トークンで数える、中身の検査と記録）を並べた左右比較の図](https://www.waltsu.co.jp/wp-content/uploads/2026/11/ai-gateway01.png)  
*APIゲートウェイは入ってくる通信を、AIゲートウェイは外のモデルへ出ていく通信を扱います。*

## LLMプロキシとの呼び分け

LLMプロキシとLLMゲートウェイは、人によって同じ意味にも別の意味にも使われます。**語だけで機能を判断しないでください**。

| 語 | 指す範囲 | 使い方の例 |
|---|---|---|
| AIゲートウェイ | アプリとモデルの間の層 | Microsoft、Kong、AWS、LiteLLMの公式 |
| LLMゲートウェイ | 同じ意味か、内側の狭い層 | 前者は Fortinet 、後者は CDataの解説 |
| LLMプロキシ | 同じ意味か、薄い中継で別のもの | 前者は シス担のミカタ 、後者は Zennの記事 |
| MCPゲートウェイ | エージェントとツールの間の層 | MCPの公式の部会 が文書化を計画 |

[LiteLLMの公式](https://docs.litellm.ai/docs/simple_proxy)は「AIゲートウェイ」と名乗り、[AWSの参照構成](https://aws.amazon.com/jp/solutions/guidance/multi-provider-generative-ai-gateway-on-aws/)は同じものを「プロキシ」とも呼びます。

## MCPゲートウェイとの関係

見る通信が違います。AIゲートウェイはアプリからモデルへ、MCPゲートウェイはエージェントからツールへの通信を扱います。

### ツールへの通信を見る層

対象はモデルがツールを使うと決めた後の通信です。**誰がどのツールを使えるか**を統制します。

### 製品の中では合流している

2026年11月時点の公式では、[Kong](https://developer.konghq.com/ai-gateway/)、[AWS](https://docs.aws.amazon.com/ja_jp/bedrock-agentcore/latest/devguide/gateway.html)、LiteLLM、[Azure](https://learn.microsoft.com/ja-jp/azure/api-management/genai-gateway-capabilities)が1つの製品で両方を扱います。CloudflareはAI Gatewayと[別の製品](https://developers.cloudflare.com/changelog/post/2026-09-24-mcp-portals-ga/)でMCPを扱います。**名前より、どの通信を通すかを確かめてください**。

![APIゲートウェイは外から自社のAPIへ、AIゲートウェイはアプリからAIモデルへ、MCPゲートウェイはエージェントからツールへの通信を見ることを、3列のカードで示し、1つの製品が兼ねることもあると添えた図](https://www.waltsu.co.jp/wp-content/uploads/2026/11/ai-gateway02.png)  
*1つの製品が複数を兼ねることもあるので、名前より、どの通信を通すかで確かめます。*

## できることは5つ

主な機能は次の5つです。

- **接続の一本化**: アプリの接続先を1つにする
- **利用の記録**: 使った人とモデル、量を残す
- **回数と金額の上限**: 使いすぎを条件つきで止める
- **障害時の切り替え**: 提供元が止まったら別のモデルへ回す
- **入出力の検査**: 機密情報などを検出する

製品での具体例は[Cloudflare AI Gatewayの記事](https://www.waltsu.co.jp/magazine/ai/cloudflare-ai-gateway/)で解説しています。

## 製品で中身が違う機能

同じ機能名でも、働きは製品で違います。例は支出の上限です。

[Vercelの公式](https://vercel.com/docs/ai-gateway/observability-and-spend/budgets)では、上限を超える1件は完了して少し超えることがあり、自前のキー（BYOK）の分は数えません。[Cloudflare](https://developers.cloudflare.com/ai-gateway/features/spend-limits/)は料金が分かるモデルなら数えます。**「上限で止まる」は条件つき**と読んでください。

## 製品は置き場所で4つに分かれる

[IBMの配布ページ](https://www.ibm.com/jp-ja/forms/mkt-94b570)にあるGartnerの市場ガイド（2025年10月）の3類型に、預けて使う型を足したwaltsuの整理です。

| 型 | 製品の例 | 向く会社 |
|---|---|---|
| API管理の拡張 | Azure API Management、Kong | API管理を運用している |
| AI基盤に内蔵 | Amazon Bedrock AgentCore Gateway、 Databricks Unity Gateway | その基盤でAIを動かしている |
| 自社で動かす専用のOSSなど | LiteLLM、 Portkey | 運用できる開発者がいる |
| 預けて使うサービス | Cloudflare AI Gateway、Vercel AI Gateway、 ロリポップ！AIゲートウェイ 、 Tailscale Aperture | 開発者が少なく、まず試したい |

表は2026年11月時点の分類の例で、**おすすめの順ではありません**。提供状況は変わるので、導入時に公式で確かめてください。[MicrosoftのAI Gateway](https://learn.microsoft.com/ja-jp/azure/ai-gateway/overview)はプレビューで、日本の地域はありません。

## 入れると増える3つのリスク

通り道を1本にすると、便利になるのと同じ場所に弱点が集まります。

### 止まると全部止まる

**ゲートウェイ自身が止まると、通している全部のAI機能が止まります**。止まったときに直接つなぐ手順を決めてください。

### APIキーが1か所に集まる

2026年3月24日、PyPI版LiteLLMの1.82.7と1.82.8に悪意のあるコードが入りました。[公式の告知](https://docs.litellm.ai/blog/security-update-march-2026)では、公開は約40分で、影響の恐れがあるインストールは10時39分から16時（UTC）までです。公式のDockerイメージは対象外です。該当環境の認証情報はすべて入れ替えるよう案内し、3月30日に1.83.0を公開しました。

鍵を集めるほど、問題が起きると入れ替える鍵も増えます。**依存する部品の版を固定し、入れ替える手順を用意してください**。

### プロンプトも1か所に残る

[初期設定で中身まで記録する製品](https://developers.cloudflare.com/changelog/post/2026-03-17-collect-log-payload-header/)があります。**全文を残すか、件数と費用だけにするか、何日残すか**を先に決めてください。

## 要る会社と要らない会社

次の3つの問いで決められます。

- 提供元を2つ以上使っているか
- AIのAPIを呼ぶツールや人が複数あるか
- 誰がいくら使ったかを説明する必要があるか

**どれにも当てはまらなければ、まだ要りません**。[OpenAIはプロジェクトごと](https://developers.openai.com/api/docs/guides/production-best-practices)、[Anthropicはワークスペースごと](https://platform.claude.com/docs/ja/manage-claude/workspaces)にキーと上限を分けられるので、提供元の管理画面で足りる場合があります。

![提供元は2つ以上か、ツールや人は複数か、使った人と金額の説明が要るか、の3つの問いを順に並べ、どれも違えば提供元の管理画面から始める、という結論で結んだ図](https://www.waltsu.co.jp/wp-content/uploads/2026/11/ai-gateway03.png)  
*どれにも当てはまらなければ、まず提供元の管理画面のキーと上限で足りる場合があります。*

## 【プロの視点】機能より素通りする通信

製品の比較は機能の数で並べるものが多く、[シャドーAI](https://www.waltsu.co.jp/magazine/security/shadow-ai/)を防げるという説明も見かけます。しかしゲートウェイを通るのは、接続先を差し替えた通信だけです。見るべきは機能の数ではなく**通らない通信がどれだけ残るか**です。

- **ブラウザの個人アカウント**: 社員がAIのサービスを直接使う
- **個人のAPIキー**: 提供元へ直接つながる
- **SaaSに内蔵のAI**: 自社で接続先を変えられない

止めるなら、端末やネットワーク、[社内ルール](https://www.waltsu.co.jp/magazine/security/generative-ai-guidelines/)といった別の手段が要ります。

明日できるのは、社内のAI利用を「ブラウザ」「社内ツールのAPI」「エージェントのツール」「SaaS内蔵」の4列に書き分け、通せる列に印を付けることです。

![左に通る通信（接続先を変えた社内ツールと、設定したエージェント）、右に素通りする通信（ブラウザの個人アカウント、個人のAPIキー、SaaSに内蔵のAI）を並べた左右比較の図](https://www.waltsu.co.jp/wp-content/uploads/2026/11/ai-gateway04.png)  
*ゲートウェイを通るのは接続先を差し替えた通信だけで、ほかは別の手段が要ります。*

## 【waltsu視点】鍵を配らず試す人を増やす

提供元のAPIキーは渡す相手が増えるほど、漏れたときの範囲も広がります。だから相手を絞ることになり、試せる人が増えにくくなります。

AIゲートウェイには**提供元の鍵を配らずに、1人1本のキーに金額と期限を付けて渡せる製品**があります。公式では[LiteLLM](https://docs.litellm.ai/docs/proxy/virtual_keys)が利用者ごとの仮想キーと予算、期限を、Vercelが実験用や外注先へ渡すキーの例を説明しています。

試す人が増えれば試す回数も増え、誰の試行にいくらかかったかも残ります。waltsuがAI活用で追いたいのは、この回数です。集めた鍵はリスクの章のとおり守る対象になります。

まず、社内で共有しているAPIキーの本数と、使っている人を数えてください。

## まとめ

AIゲートウェイはアプリとモデルの間で接続と記録、制御をまとめる層です。呼び分けは人によって違うので、語より、通す通信で確かめます。

要否は提供元の数、使う人の数、費用を説明する必要の3つで決められます。社内のAIの通信をどこから1本にまとめるかに迷ったら、waltsuが利用の棚卸しから設計までご支援します。

## よくある質問

語の訳から社員の利用まで、5つに答えます。

**Q. 日本語では何と言いますか**  
A. 定訳は確認できませんでした。AIの通信を中継し、管理する層と説明されることが多い語です。

**Q. APIゲートウェイがあれば不要ですか**  
A. 製品によります。API管理の製品がAI向けの機能を持っていれば、拡張で足りる場合があります。

**Q. 応答は遅くなりますか**  
A. 経由する分は遅くなります。LiteLLMの公表値は模擬の提供元へ送る試験で、上乗せ分の中央値は4台で2ミリ秒、2台で12ミリ秒です。2台は条件の記録が欠け、台数の差とは読めません。構成や検査で変わるので、自社の環境で測ってください。

**Q. オープンソースの製品はありますか**  
A. LiteLLMやPortkeyがあります。自社で動かすと、更新と鍵の管理も自社の仕事になります。PortkeyはPalo Alto Networksが2026年5月に買収したので、今の扱いは公式で確かめてください。

**Q. 社員のChatGPT利用も管理できますか**  
A. そのままでは通りません。対象は接続先を変えられる社内ツールで、社員のチャット利用には別の手段が要ります。

## 執筆者

**藤井 俊輔**（代表取締役）ベンチャー企業の外部CMOや水族館のマーケティング担当などに従事。オンライン/オフライン問わず集客を中心としたマーケティング施策に強み。

プロフィール: https://www.waltsu.co.jp/magazine/supervisor/shunsuke-fujii/