マワルくん・AIゲートウェイという語の意味を知りたい
・APIゲートウェイやMCPゲートウェイとの違いが分からない
・自社に要るのかを判断したい
生成AIのAPIを呼ぶツールが社内に増えると、誰がどのモデルをどれだけ使ったのかを説明しにくくなります。そこで耳にするのがAIゲートウェイという語です。
AIゲートウェイはアプリとAIモデルの間に置く層で、接続と記録、制御をそこに集めます。入れる価値を左右するのは、機能の多さより、どの通信を通せるかです。本記事では2026年11月時点の公式情報を中心に、似た語との違い、製品の型、リスク、要否の決め方を整理します。
この記事を監修した人
システムエンジニア
小洞 映コボラ ハユル
この記事のゴール（読了目安 約7分）
似た語との呼び分けを説明でき、今の自社に要るかを決められるようになる。
AIゲートウェイとは
AIへの通信をまとめて通す中継点です。
アプリとモデルの間に置く層
アプリは提供元ごとに直接つながず、ゲートウェイへ送ります。ゲートウェイ自身はモデルを動かさず、誰がどのモデルをどれだけ使ったかを記録し、制御します。生成AIのAPIの課金は多くの場合トークン単位です。
決まった定義はまだない
確認した範囲では、規格で決まった定義はまだなく、製品や調査会社の説明で使われている語です。Microsoftの公式文書も、API管理の文書ではこの語が製品でなく機能を指すことがある、と注記しています。語だけでは中身を判断できません。
APIゲートウェイとの違い
違いは通信の向きと、数える単位です。併用もできます。
通信の向きが逆
APIゲートウェイが受けるのは、外から自社のAPIへ入る通信です。AIゲートウェイは自社のアプリから外のモデルへ出ていく通信を扱います。Kongの解説での呼び名は出口側の中継（イグレスプロキシ）です。ただし社内にモデルを置く構成もあります。
数える単位と見る中身
APIゲートウェイは主に回数で数えます。AIゲートウェイの単位はトークンで、プロンプトと応答の中身まで検査や記録の対象にします。
LLMプロキシとの呼び分け
LLMプロキシとLLMゲートウェイは、人によって同じ意味にも別の意味にも使われます。語だけで機能を判断しないでください。
LiteLLMの公式は「AIゲートウェイ」と名乗り、AWSの参照構成は同じものを「プロキシ」とも呼びます。
MCPゲートウェイとの関係
見る通信が違います。AIゲートウェイはアプリからモデルへ、MCPゲートウェイはエージェントからツールへの通信を扱います。
ツールへの通信を見る層
対象はモデルがツールを使うと決めた後の通信です。誰がどのツールを使えるかを統制します。
製品の中では合流している
2026年11月時点の公式では、Kong、AWS、LiteLLM、Azureが1つの製品で両方を扱います。CloudflareはAI Gatewayと別の製品でMCPを扱います。名前より、どの通信を通すかを確かめてください。
できることは5つ
主な機能は次の5つです。
- 接続の一本化: アプリの接続先を1つにする
- 利用の記録: 使った人とモデル、量を残す
- 回数と金額の上限: 使いすぎを条件つきで止める
- 障害時の切り替え: 提供元が止まったら別のモデルへ回す
- 入出力の検査: 機密情報などを検出する
製品での具体例はCloudflare AI Gatewayの記事で解説しています。
製品で中身が違う機能
同じ機能名でも、働きは製品で違います。例は支出の上限です。
Vercelの公式では、上限を超える1件は完了して少し超えることがあり、自前のキー（BYOK）の分は数えません。Cloudflareは料金が分かるモデルなら数えます。「上限で止まる」は条件つきと読んでください。
製品は置き場所で4つに分かれる
IBMの配布ページにあるGartnerの市場ガイド（2025年10月）の3類型に、預けて使う型を足したwaltsuの整理です。
表は2026年11月時点の分類の例で、おすすめの順ではありません。提供状況は変わるので、導入時に公式で確かめてください。MicrosoftのAI Gatewayはプレビューで、日本の地域はありません。
入れると増える3つのリスク
通り道を1本にすると、便利になるのと同じ場所に弱点が集まります。
止まると全部止まる
ゲートウェイ自身が止まると、通している全部のAI機能が止まります。止まったときに直接つなぐ手順を決めてください。
APIキーが1か所に集まる
2026年3月24日、PyPI版LiteLLMの1.82.7と1.82.8に悪意のあるコードが入りました。公式の告知では、公開は約40分で、影響の恐れがあるインストールは10時39分から16時（UTC）までです。公式のDockerイメージは対象外です。該当環境の認証情報はすべて入れ替えるよう案内し、3月30日に1.83.0を公開しました。
鍵を集めるほど、問題が起きると入れ替える鍵も増えます。依存する部品の版を固定し、入れ替える手順を用意してください。
プロンプトも1か所に残る
初期設定で中身まで記録する製品があります。全文を残すか、件数と費用だけにするか、何日残すかを先に決めてください。
要る会社と要らない会社
次の3つの問いで決められます。
- 提供元を2つ以上使っているか
- AIのAPIを呼ぶツールや人が複数あるか
- 誰がいくら使ったかを説明する必要があるか
どれにも当てはまらなければ、まだ要りません。OpenAIはプロジェクトごと、Anthropicはワークスペースごとにキーと上限を分けられるので、提供元の管理画面で足りる場合があります。
【プロの視点】機能より素通りする通信
製品の比較は機能の数で並べるものが多く、シャドーAIを防げるという説明も見かけます。しかしゲートウェイを通るのは、接続先を差し替えた通信だけです。見るべきは機能の数ではなく通らない通信がどれだけ残るかです。
- ブラウザの個人アカウント: 社員がAIのサービスを直接使う
- 個人のAPIキー: 提供元へ直接つながる
- SaaSに内蔵のAI: 自社で接続先を変えられない
止めるなら、端末やネットワーク、社内ルールといった別の手段が要ります。
明日できるのは、社内のAI利用を「ブラウザ」「社内ツールのAPI」「エージェントのツール」「SaaS内蔵」の4列に書き分け、通せる列に印を付けることです。
【waltsu視点】鍵を配らず試す人を増やす
提供元のAPIキーは渡す相手が増えるほど、漏れたときの範囲も広がります。だから相手を絞ることになり、試せる人が増えにくくなります。
AIゲートウェイには提供元の鍵を配らずに、1人1本のキーに金額と期限を付けて渡せる製品があります。公式ではLiteLLMが利用者ごとの仮想キーと予算、期限を、Vercelが実験用や外注先へ渡すキーの例を説明しています。
試す人が増えれば試す回数も増え、誰の試行にいくらかかったかも残ります。waltsuがAI活用で追いたいのは、この回数です。集めた鍵はリスクの章のとおり守る対象になります。
まず、社内で共有しているAPIキーの本数と、使っている人を数えてください。
よくある質問
語の訳から社員の利用まで、5つに答えます。
日本語では何と言いますか
定訳は確認できませんでした。AIの通信を中継し、管理する層と説明されることが多い語です。
APIゲートウェイがあれば不要ですか
製品によります。API管理の製品がAI向けの機能を持っていれば、拡張で足りる場合があります。
応答は遅くなりますか
経由する分は遅くなります。LiteLLMの公表値は模擬の提供元へ送る試験で、上乗せ分の中央値は4台で2ミリ秒、2台で12ミリ秒です。2台は条件の記録が欠け、台数の差とは読めません。構成や検査で変わるので、自社の環境で測ってください。
オープンソースの製品はありますか
LiteLLMやPortkeyがあります。自社で動かすと、更新と鍵の管理も自社の仕事になります。PortkeyはPalo Alto Networksが2026年5月に買収したので、今の扱いは公式で確かめてください。
社員のChatGPT利用も管理できますか
そのままでは通りません。対象は接続先を変えられる社内ツールで、社員のチャット利用には別の手段が要ります。
この記事のポイント
・アプリとモデルの間で、接続と記録、制御をまとめる層
・語の使い方は人で違うので、通す通信で確かめる
・通り道と鍵とログが1か所に集まる
・接続先を差し替えていない通信には届かない
まとめ
AIゲートウェイはアプリとモデルの間で接続と記録、制御をまとめる層です。呼び分けは人によって違うので、語より、通す通信で確かめます。
要否は提供元の数、使う人の数、費用を説明する必要の3つで決められます。社内のAIの通信をどこから1本にまとめるかに迷ったら、waltsuが利用の棚卸しから設計までご支援します。
