欢迎光临
我们一直在努力

Azure OpenAI 多区域负载均衡方案

概述

本方案使用 Azure API Management (APIM) 实现多个 Azure OpenAI 资源的负载均衡和故障转移,提供高可用性和更大的吞吐量。

架构

┌─────────────────────────────────┐
│ 客户端应用 │
└─────────────┬───────────────────┘
│
▼
┌─────────────────────────────────┐
│ Azure API Management │
│ │
│ • 轮询负载均衡 (Round Robin) │
│ • 自动故障转移 │
│ • 托管标识认证 │

赞(0)
未经允许不得转载:171主机测评 » Azure OpenAI 多区域负载均衡方案
分享到: 更多 (0)

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址