前言
随着 AI 应用的普及，Azure OpenAI 的使用量急剧增长。单一区域的 OpenAI 资源往往面临以下挑战：
- 配额限制：单个资源的 TPM (Tokens Per Minute) 有上限
- 单点故障：区域故障会导致服务不可用
- 延迟问题：用户分布全球，单一区域延迟不均
本文介绍如何使用 Azure API Management (APIM) 实现多区域 Azure OpenAI 的负载均衡和故障转移，提供高可用、高吞吐的 AI 服务。
架构设计
整体架构
┌─────────────────────────────────┐
│ 客户端应用 │
└─────────────┬───────────────────┘
│
▼
┌─────────────────────────────────┐
│ Azure AP
