チャット画面はすぐ開くのに、質問を送るとなかなか回答が返ってこない。固定回線では使えても、モバイル回線では時々切れる。AI API中継サービスの接続問題は、実際にAPIを呼び出す経路に潜んでいることが少なくありません。

中国本土のユーザーに提供するなら、Cloudflare、CDN07、CDNetworks、Alibaba Cloud ESA、Gcoreが候補になります。選定では、実際にリクエストを送る場所、夜間のピーク時のネットワーク品質、ストリーミング応答、攻撃対策をあわせて比較しましょう。香港にノードがあることやトップページの速度測定結果だけでは、AIとの会話を最後まで完了できるかは分かりません。

まず、実際に中継APIへ接続する端末を特定する

「ユーザーは全員中国本土にいる」という情報だけでは、AI API中継サービスに必要なネットワーク要件は分かりません。

ブラウザーから直接リクエストするユーザーもいれば、デスクトップアプリから接続するユーザーもいます。顧客がAPIを自社システムに組み込み、実際には顧客のサーバーから中継サービスへアクセスする場合もあります。

それぞれのケースで、CDNに求める条件は異なります。

たとえば顧客が上海にいても、アプリケーションをシンガポールのサーバーで運用していれば、中継APIへのリクエスト元はシンガポールのデータセンターです。上海の家庭用回線で測った結果だけで事業者を選ぶと、実際の通信経路を評価できません。

一方、中国本土のユーザーがスマートフォンから直接APIに接続するなら、海外のクラウドサーバーで測定した低遅延の結果は、実際のモバイル回線での検証の代わりにはなりません。

別途確認したい経路もあります。中継サーバーから上流のモデルサービスへの接続です。 中継ドメインの前段に置くCDNが通常扱うのは、呼び出し元から中継サービスの入口までです。上流モデルの待ち行列、接続失敗、生成速度の低下は、中継サーバーのログと照らして判断する必要があります。

オリジンが米国にあり、ユーザーが中国本土にいる場合は、 動的APIの高速化と国境を越えるオリジン接続の違い も踏まえて所要時間を区間別に調べると、CDNの入口、オリジンの配置、上流への接続のどこに予算をかけるべきか判断しやすくなります。

5社をどの観点から比較するか

以下では、それぞれの製品の方向性を紹介します。実際のトライアルは2～3社に絞ると、同時に変わる条件を減らせます。

Cloudflare：すでに利用中なら、現行環境を比較基準にする

すでにCloudflareを利用している場合、現在の設定と運用記録が比較の基準になります。新しい構成がどの部分を改善したのか判断できます。

CloudflareはDDoS対策を提供し、プロキシの入口を狙う攻撃に対応できます。Webアプリケーションファイアウォール（WAF）やルール設定の機能は、具体的なプランごとに確認が必要です。ドメインのプロキシ設定とセキュリティ設定を同じプラットフォームで管理できることは、運用上の利点です。

中国本土のユーザーに提供する場合は、国際向けネットワークと中国向けネットワークを区別する必要があります。Cloudflareの China Networkに関する説明 では、中国向けネットワークはEnterprise契約者向けの別途サブスクリプションとされ、対象ドメインには有効なICP登録または許可が必要です。

通常の国際向けプランを比較する際に、中国向けネットワークの提供条件を含めて考えてはいけません。

代替サービスを試す前に、既存のCloudflare経由の接続を比較対象として残しておきましょう。同じオリジンとAPIを使い、近い時間帯に実際のユーザーのネットワークからリクエストします。新しい構成で接続失敗、長い待ち時間、ストリーミングの中断が減るか確認できます。

現行の接続経路がほとんどの時間帯で正常に動き、一部の通信事業者や時間帯だけに問題があるなら、まずその問題に絞って対処する方法もあります。全面移行が最初から最も費用対効果の高い選択とは限りません。

CDN07：中国本土のユーザー向けに、接続経路と防御設定をあわせて調整する

オリジンを中国本土以外に置き、主な収益源が中国本土のユーザーで、攻撃にも頻繁に遭うAI API中継サービスなら、CDN07を優先的に検討できます。

当社の DDoS対策CDN では、ノード配置、帯域幅、セキュリティポリシーを個別に構成でき、中国語での技術サポートも提供しています。AI API中継サービスなら、ユーザーが集中する省や利用する通信事業者、主なリクエストを処理するAPI、通常のピーク時に維持する接続数に合わせて設定を検討できます。

中国本土以外からの配信が必要な場合は、 ICP登録不要のDDoS対策CDNプラン を起点に、オリジンの所在地と中国本土からのアクセス要件をあわせて評価できます。

この選び方は、次のような要件が明確な場合に向いています。

• 主なユーザーが中国本土にいて、夜間のAPI利用体験が契約更新に直結する。
• オリジンが香港、日本、米国などにあり、現在の配置を維持したい。
• APIの高速化に加え、DDoS攻撃や高頻度の不正リクエストにも対応したい。
• 障害について中国語で相談し、サービスの状況に応じてセキュリティポリシーを調整したい。

導入前には、AI API特有の動作を整理しておく必要があります。短い会話、長時間の生成、ファイルのアップロード、クライアントアプリからの呼び出しは、トップページの測定だけでは検証できません。特に、サーバーからクライアントへイベントを継続的に送るSSEストリーミング応答については、内容が遅れずに転送されるか、待機中にタイムアウトしないか、防御を有効にしてもリクエストを完了できるか、実際に確認しましょう。

ノードやポリシーを調整できるなら、テスト条件もサービスの実態に合わせるべきです。同じブランドのCDNでも、香港のオリジンと米国のオリジンで同じアクセス性能を期待するのは適切ではありません。

CDNetworks：複数の提供地域で、動的コンテンツの転送とセキュリティを評価する

AI API中継サービスが中国本土、東南アジア、その他の海外ユーザーを同時に対象とするなら、CDNetworksも候補になります。

同社の Dynamic Web Acceleration 製品は、コネクションの再利用、転送の最適化、動的コンテンツの配信を提供しており、共有キャッシュでは高速化できないAPIを評価する際の候補になります。また、Cloud Security製品群にはDDoS対策、WAF、ボット管理、APIセキュリティも含まれます。

見積もりを依頼する際は、動的リクエストがどの経路を通り、その経路でどの防御サービスを有効にするのか、両方を確認しましょう。コンテンツ配信だけの見積もりに、AI APIに必要なセキュリティ設定まで含まれているとは限りません。

この種の構成は、導入を担当する技術者がいて、複数のオリジンや提供地域を調整するチームに向いています。中国本土と海外の顧客を分けて接続成功率と会話完了率を確認し、全体として要件を満たすか判断できます。

ICP登録ができないプロジェクトなら、中国本土以外のノードからの配信が必要だと明示し、利用可能な地域、導入条件、見積もり範囲を事業者に確認してください。中国本土のネットワーク資源を保有していることと、未登録ドメインで利用できる資源は別の問題です。

Alibaba Cloud ESA：既存の運用環境に組み込み、中国本土への接続最適化を検討する

Alibaba Cloud ESAは、高速化、セキュリティ、エッジコンピューティングを一つの製品群として提供します。すでにAlibaba Cloudのサーバー、監視、アカウント管理を使っているチームなら、既存の運用フローに組み込む形で評価できます。

中国本土以外のオリジンから中国本土のユーザーに提供する場合、具体的に確認したいのは 中国本土のネットワークアクセス最適化機能 です。公式ドキュメントによると、香港などのノードと関連するネットワーク資源を利用して地域をまたぐアクセスを改善し、有効化と課金の条件も別途定めています。

「中国本土以外の高速化地域を選ぶこと」と「中国本土からのアクセス最適化機能を購入すること」は、分けて確認してください。ESAを導入しただけで、すべての経路最適化機能やセキュリティ機能が有効になるわけではありません。

Alibaba Cloudの ESAの利用制限 も、高速化地域を明確に区分しています。中国本土を含む地域を選ぶ場合、ドメインは該当するICP登録要件を満たす必要があります。未登録のサービスでは、中国本土以外の地域向け構成を確認し、オリジンが海外にあるだけですべての地域を使えるとは考えないでください。

AI API中継サービスでは、DDoS対策の水準、APIルール、高速化地域、追加利用量を同じ見積もりで確認しましょう。中国本土からのアクセス最適化に見合う費用かどうかは、実際の呼び出し結果で判断すべきです。

Gcore：中国本土と海外の両方で、配信とAPIセキュリティを評価する

Gcoreはグローバル展開を視野に入れた候補で、コンテンツ配信とアプリケーションセキュリティの両方を重視するチームに適しています。

同社の WAAP製品の説明 では、WAF、ボット管理、DDoS対策、APIセキュリティを含むWebアプリケーションとAPIの保護機能を紹介しています。AI API中継サービスなら、APIルール、誤検知への対応、セキュリティ機能とCDN配信の連携を重点的に比較できます。

たとえば公開ドキュメント、ログイン画面、モデル呼び出しAPIでは、アクセスの振る舞いが大きく異なります。すべてに同じボット判定を適用すると、正規のクライアントに影響するおそれがあります。管理画面のスクリーンショットを見るだけでなく、自社のAPI一覧に沿った設定の実演を求めるとよいでしょう。

Gcoreのネットワークが世界中に広がっていても、中国本土の特定の通信事業者で夜間のピーク時に安定するかは、それだけでは分かりません。中国本土が主な市場なら、中国本土でのテスト結果を次の選考に進める判断材料にします。海外ユーザーも相当数いるなら海外でのテストも残し、一方の利用体験だけを改善する結果にならないようにしましょう。

トライアルでは「夜に1回呼び出せた」をもっと細かく検証する

一つのAIとの会話でも、接続、認証、上流サービスの待機、継続的な受信、リクエストの終了という段階があります。ユーザーに分かるのは速さと中断の有無ですが、問題の切り分けには各段階を区別する必要があります。

利用量が最も多い地域からテストを始め、主な通信事業者と呼び出し方法を網羅します。実際の顧客がほとんどいない地域で、全国の測定地点数を増やすために多くの時間を使う必要はありません。

ユーザーの利用時間帯に合わせて測る

昼と夜に一度ずつ測れば手掛かりは得られますが、長期契約を判断するには複数の日に繰り返し観測する必要があります。

顧客が主に夜間に利用するなら、該当する北京時間の時間帯で詳細な記録を残します。ある事業者の昼間の最高値と、別の事業者の夜間ピーク時の結果をそのまま比較してはいけません。

少なくとも次の項目を記録しましょう。

HTTPレスポンスヘッダーを受信しても、モデルが回答を始めたとは限りません。ストリーミングAPIでは、ロール情報、ハートビート、空のイベントが先に届くこともあります。実際の回答内容とは分けて記録しましょう。

上流モデルの変動による影響を抑えるには、2種類のリクエストを用意できます。一つは自分で制御するサービスから一定の間隔でテストデータを返し、転送状態を調べるもの。もう一つは実際のモデルを呼び出し、サービスの利用体験を確認するものです。前者は原因の特定に役立ち、後者はユーザーが受け入れられる品質かを判断できます。

成功したリクエストの平均所要時間だけを集計すると、頻繁な失敗が見えなくなります。比較レポートには完了率と失敗の記録も残してください。

文章が「突然まとめて表示される」なら、まず応答の転送を確認する

常に遅いのではなく、しばらく待った後に文章が一度に大量に表示されるAPIもあります。この場合はネットワークだけでなく、中継アプリケーション、リバースプロキシ、フロントエンドの読み取り方法も確認してください。

NGINXの レスポンスバッファリングに関する説明 では、バッファリングの有効時と無効時の転送動作を解説しています。ストリーミングAPIでは、プロキシ層のバッファリング設定によってクライアントにデータが届く間隔が変わることがあります。レスポンスをキャッシュしない設定だけでは、すべての転送層がストリーミングに対応しているとは判断できません。

テストでは、オリジンからの出力とクライアントでの受信を同時に観測します。オリジン自体がまとめて出力するなら、CDNを替えても解決しない可能性があります。オリジンは継続して送信しているのにクライアントへの到着が遅れるなら、中間のプロキシとクライアントの読み取り処理を調べてください。

長時間維持する接続では、データが届かない待機中のタイムアウトと、一つのレスポンスを継続できる時間も確認が必要です。 長時間接続とマルチテナントAPIの導入要件 を参照しながら、関連する設定を一つずつ確認できます。

Webページは開くのにAPIが失敗するなら、購入前にCORSプリフライトを確認する

AI API中継サービスにWebチャット画面がある場合、コマンドラインからは正常に呼び出せるのに、ブラウザーではエラーになることがあります。

WebページとAPIのオリジンが異なり、たとえばページが app.example.com、APIが api.example.comにある場合、ブラウザーはクロスオリジンアクセスを確認します。特定のリクエストヘッダーを含む呼び出しでは、先に OPTIONSプリフライトリクエストを送ることもあります。

MDNの CORSの解説 にあるように、ブラウザーはまずリクエスト元、メソッド、ヘッダーが許可されるかをサーバーに確認し、その結果に応じて実際のリクエストを送ります。プリフライトがセキュリティルールでブロックされたり、許可を示す情報が不足したりすると、後続の呼び出しに影響します。

次のコマンドはmacOS、Linux、またはWindows上のWSLで使用できます。例のアドレスを自社のWebページとAPIのドメインに置き換え、モデルへの生成リクエストを送らずにプリフライトの応答を確認します。

curl -sS -i --connect-timeout 10 --max-time 20 \
  -X OPTIONS \
  -H 'Origin: https://app.example.com' \
  -H 'Access-Control-Request-Method: POST' \
  -H 'Access-Control-Request-Headers: authorization,content-type' \
  'https://api.example.com/v1/chat/completions'

ステータスコードと次のレスポンスヘッダーを重点的に確認します。以下は、このリクエストに対応する項目の例です。

Access-Control-Allow-Origin: https://app.example.com
Access-Control-Allow-Methods: POST
Access-Control-Allow-Headers: authorization,content-type

プリフライトは通常、200や204などの成功ステータスを返し、必要なオリジン、メソッド、リクエストヘッダーを正しく許可する必要があります。403、リダイレクト、HTMLのチャレンジページが返る場合は、セキュリティログとオリジンの設定を照らして調べましょう。ステータスコードだけでCDNに原因があるとは判断できません。

ブラウザーのリクエストにCookieなどの認証情報が含まれる場合は、認証情報に関する設定も確認します。許可するオリジンを単純にワイルドカードにすることもできません。実際のAPIレスポンスにも、適切なCORSレスポンスヘッダーが必要です。

curlはレスポンスを表示するだけで、ブラウザーが行うCORSチェック全体を代行しません。コマンドで確認した後、実際のWebページでも再度検証してください。

このテストでは、事業者が実際のAPIに合わせて設定を調整できるかも確認できます。APIがプログラムからのリクエストを正常に受け取る必要があるなら、防御策もその利用方法に対応していなければなりません。SDKにWebページ用のCAPTCHAを求めたり、APIドメイン全体の防御を無効にしたりするのは、長期的な解決策にはなりません。

実際のAPI利用状況に基づいて費用を計算する

AI API中継サービスでは、リクエスト数、転送量、接続の占有時間が同じように増えるとは限りません。

短いテキストは転送量が少なくても応答待ちが長くなることがあります。一方、画像、音声、ファイルのリクエストでは、アップロード量や下り方向の転送量が大きくなる場合があります。トップページの月間転送量だけから見積もっても、API導入後の費用は予測しにくいでしょう。

見積もりを依頼する際は、サービスの利用状況を簡潔にまとめて候補の事業者へ送ります。

• 主な呼び出し元の地域と、ブラウザー、クライアントアプリ、サーバーからの呼び出しのおおよその割合。
• 通常のリクエスト数、ピーク時の利用量、一般的なレスポンスの継続時間。
• テキスト、画像、音声などのリクエストの割合とサイズ。
• 過去に受けた攻撃の種類と、利用したいセキュリティ機能。
• 追加の経路最適化、ログの保存、技術サポートが必要かどうか。

次に、見積もりに何が含まれるか確認します。転送量、リクエスト数、帯域幅、ルール数、ログ、セキュリティサービス、サポートサービスが、それぞれプラン内かどうかを確認してください。費用の内訳は DDoS対策CDNのプランと追加利用量の計算方法 を参考に、自社の利用データに当てはめて検討できます。

接続が切れたユーザーが何度も再試行すると、CDN側のリクエスト数や転送量が増え、上流でも追加の呼び出しが発生する可能性があります。料金が重複するかはアプリケーションとモデルサービスの処理方法によります。月額料金だけでなく、失敗に伴うこうした費用も比較に含めましょう。

トライアル後は、次の3点で候補を絞れます。

• 主要顧客のネットワークから、API呼び出しを安定して完了できる。
• 必要な防御を有効にしても、Webページ、SDK、ストリーミングAPIが正常に動作する。
• ピーク時の利用量と追加サービスの費用が、許容できる予算内に収まる。

主な顧客が中国本土にいて、オリジンが中国本土以外にあるなら、 CDN07への導入相談 からオリジンの所在地、ユーザーの分布、APIの種類を伝え、その条件に合わせてノード、帯域幅、セキュリティ設定を相談できます。具体的な利用状況を示したほうが、「何Tbpsの防御で月額はいくらか」だけを尋ねるより、実用的な提案を得やすくなります。

選定時によくある質問

AIの回答をキャッシュできないのに、CDNを使う意味はありますか？

あります。ただし、動的リクエストの転送と保護にどれだけ価値があるか評価する必要があります。ユーザー固有の会話内容を、キャッシュヒット率を高める目的で共有キャッシュに入れるべきではありません。一方、経路の選択、接続の処理、入口での防御はサービスを改善する可能性があります。改善幅は、同じ条件で比較して判断してください。

香港のDDoS対策CDNは、ほかの地域より必ず速いですか？

必ずしもそうではありません。ノードの場所は一つの条件にすぎず、ユーザーからノード、ノードからオリジンへの経路、実際の混雑状況、ルーティングも影響します。香港のノードは中国本土からのアクセステストに含める価値がありますが、購入判断には夜間ピーク時の実際のAPI結果を使いましょう。

WebSocketに対応していれば、AIのストリーミング出力も正常に動作しますか？

それだけでは判断できません。WebSocketとSSEは異なる通信方式です。「長時間接続に対応」という説明だけでは、バッファリング、アイドルタイムアウト、レスポンスの継続時間に関する具体的な設定は分かりません。導入時には実際に使用するプロトコルで検証してください。

多くの正規ユーザーが同じIPアドレスからアクセスする場合、誤ってブロックされませんか？

その可能性はあります。企業ネットワーク、モバイル回線、顧客のバックエンドサーバーでは、複数のユーザーが同じ送信元IPアドレスを共有することがあります。ルール設計ではこれを考慮し、アプリケーション層でもアカウント、APIの利用権限、利用枠に基づいて使用量を管理しましょう。同じIPアドレスだからといって、同じユーザーからのリクエストとは限りません。

予算が限られる場合、まずどの2社を試すべきですか？

すでにCloudflareを使っているなら、現行の接続経路を残し、主要顧客の地域と運用方法に合う別の1社と比較できます。中国本土のユーザーが多く、中国本土以外からの配信と中国語での技術サポートが必要なら、CDN07を優先的に試せます。Alibaba Cloudをすでに使っているならESAの該当プランを評価し、海外の複数地域にも提供するならCDNetworksやGcoreの具体的な構成を比較します。

テスト対象を絞ると、差を把握しやすくなります。購入の決め手は、顧客が問題なくAPIの呼び出しを完了できるか、問題が起きたときに速やかに原因を特定して対処できるかです。