欢迎光临
我们一直在努力

【AI】----一篇吃透NewAPI!一个或多个AI账号分身多个API Key给其他多人使用,并可以限制额度,实战方案(2026保姆级)

文章目录

  • 一篇吃透NewAPI!企业多AI账号负载均衡实战方案(2026保姆级)
    • 一、前言:企业AI调用的经典痛点💥
    • 二、NewAPI是什么?核心作用一文读懂📌
      • 2\\.1 核心定义
      • 2\\.2 企业核心作用(对应本次业务场景)
    • 三、本次实战业务架构流程图(核心逻辑)🔍
    • 四、NewAPI 核心核心功能与用法详解🛠️
      • 4\\.1 基础核心能力
      • 4\\.2 本次场景专属配置思路
    • 五、手把手实操配置步骤(落地可复用)📝
      • 5\\.1 前置准备
      • 5\\.2 步骤1:添加2个智普GLM5渠道
      • 5\\.3 步骤2:创建用户分组与批量添加用户
      • 5\\.4 步骤3:开启全局均衡调度
    • 六、完整调用示例(Python)💻
      • 代码说明✨
    • 七、优化后效果对比(彻底解决资源浪费)📊
      • 优化前(传统固定分组模式)
      • 优化后(NewAPI负载均衡模式)
    • 八、企业进阶优化建议💡
    • 九、总结📎

一篇吃透NewAPI!企业多AI账号负载均衡实战方案(2026保姆级)

一、前言:企业AI调用的经典痛点💥

很多公司落地AI服务时,都会遇到多账号、多用户、资源分配不均的棘手问题,以本文实战场景为例:

  • 企业资源:2个智普GLM5官方账号(拥有独立额度、调用配额)

  • 使用人员:20名内部员工,常规分为2组,每组10人

  • 核心痛点:传统固定分组绑定账号模式,极易出现一组额度耗尽无法调用、另一组额度闲置浪费的情况,AI资源利用率极低,还会影响团队正常办公

想要彻底解决这个问题,实现多账号资源池化、智能负载均衡、按需分配额度,NewAPI就是最优开源解决方案。

本文从零讲解NewAPI的核心作用、核心原理、完整用法,结合公司真实2账号20人分组场景,附带流程图、详细配置步骤、可直接运行的代码示例,看完即可落地复用✅

二、NewAPI是什么?核心作用一文读懂📌

2.1 核心定义

NewAPI是一款开源企业级AI大模型网关与资源管理平台,基于OneAPI二次开发优化,核心是聚合各类AI厂商接口(智普、OpenAI、百度文心等),统一为标准OpenAI兼容接口,实现多模型、多账号的集中管控、负载均衡、配额分发与权限管理。

2.2 企业核心作用(对应本次业务场景)

  • 资源池化聚合:将2个智普GLM5独立账号合并为一个统一资源池,打破单账号、单分组的资源隔离壁垒

  • 智能负载均衡:自动分发用户调用请求,优先使用闲置账号额度,杜绝一组用尽、一组过剩的浪费问题

  • 精细化权限/配额管理:支持20人分组管理、单人额度限制、分组额度管控,适配企业团队架构

  • 统一调用入口:员工无需切换多个账号密钥,仅用一个统一接口即可调用GLM5模型,大幅降低使用成本

  • 调用监控统计:实时记录每组、每人的调用量、消耗额度,方便运维对账与资源优化

三、本次实战业务架构流程图(核心逻辑)🔍

下图清晰展示NewAPI如何解决分组资源不均衡问题,实现双账号资源共享、智能调度:

#mermaid-svg-OcYWw3ZN6on6q9bK{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;fill:#333;}@keyframes edge-animation-frame{from{stroke-dashoffset:0;}}@keyframes dash{to{stroke-dashoffset:0;}}#mermaid-svg-OcYWw3ZN6on6q9bK .edge-animation-slow{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 50s linear infinite;stroke-linecap:round;}#mermaid-svg-OcYWw3ZN6on6q9bK .edge-animation-fast{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 20s linear infinite;stroke-linecap:round;}#mermaid-svg-OcYWw3ZN6on6q9bK .error-icon{fill:#552222;}#mermaid-svg-OcYWw3ZN6on6q9bK .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-OcYWw3ZN6on6q9bK .edge-thickness-normal{stroke-width:1px;}#mermaid-svg-OcYWw3ZN6on6q9bK .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-OcYWw3ZN6on6q9bK .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-OcYWw3ZN6on6q9bK .edge-thickness-invisible{stroke-width:0;fill:none;}#mermaid-svg-OcYWw3ZN6on6q9bK .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-OcYWw3ZN6on6q9bK .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-OcYWw3ZN6on6q9bK .marker{fill:#333333;stroke:#333333;}#mermaid-svg-OcYWw3ZN6on6q9bK .marker.cross{stroke:#333333;}#mermaid-svg-OcYWw3ZN6on6q9bK svg{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-OcYWw3ZN6on6q9bK p{margin:0;}#mermaid-svg-OcYWw3ZN6on6q9bK .label{font-family:\”trebuchet ms\”,verdana,arial,sans-serif;color:#333;}#mermaid-svg-OcYWw3ZN6on6q9bK .cluster-label text{fill:#333;}#mermaid-svg-OcYWw3ZN6on6q9bK .cluster-label span{color:#333;}#mermaid-svg-OcYWw3ZN6on6q9bK .cluster-label span p{background-color:transparent;}#mermaid-svg-OcYWw3ZN6on6q9bK .label text,#mermaid-svg-OcYWw3ZN6on6q9bK span{fill:#333;color:#333;}#mermaid-svg-OcYWw3ZN6on6q9bK .node rect,#mermaid-svg-OcYWw3ZN6on6q9bK .node circle,#mermaid-svg-OcYWw3ZN6on6q9bK .node ellipse,#mermaid-svg-OcYWw3ZN6on6q9bK .node polygon,#mermaid-svg-OcYWw3ZN6on6q9bK .node path{fill:#ECECFF;stroke:#9370DB;stroke-width:1px;}#mermaid-svg-OcYWw3ZN6on6q9bK .rough-node .label text,#mermaid-svg-OcYWw3ZN6on6q9bK .node .label text,#mermaid-svg-OcYWw3ZN6on6q9bK .image-shape .label,#mermaid-svg-OcYWw3ZN6on6q9bK .icon-shape .label{text-anchor:middle;}#mermaid-svg-OcYWw3ZN6on6q9bK .node .katex path{fill:#000;stroke:#000;stroke-width:1px;}#mermaid-svg-OcYWw3ZN6on6q9bK .rough-node .label,#mermaid-svg-OcYWw3ZN6on6q9bK .node .label,#mermaid-svg-OcYWw3ZN6on6q9bK .image-shape .label,#mermaid-svg-OcYWw3ZN6on6q9bK .icon-shape .label{text-align:center;}#mermaid-svg-OcYWw3ZN6on6q9bK .node.clickable{cursor:pointer;}#mermaid-svg-OcYWw3ZN6on6q9bK .root .anchor path{fill:#333333!important;stroke-width:0;stroke:#333333;}#mermaid-svg-OcYWw3ZN6on6q9bK .arrowheadPath{fill:#333333;}#mermaid-svg-OcYWw3ZN6on6q9bK .edgePath .path{stroke:#333333;stroke-width:2.0px;}#mermaid-svg-OcYWw3ZN6on6q9bK .flowchart-link{stroke:#333333;fill:none;}#mermaid-svg-OcYWw3ZN6on6q9bK .edgeLabel{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-OcYWw3ZN6on6q9bK .edgeLabel p{background-color:rgba(232,232,232, 0.8);}#mermaid-svg-OcYWw3ZN6on6q9bK .edgeLabel rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-OcYWw3ZN6on6q9bK .labelBkg{background-color:rgba(232, 232, 232, 0.5);}#mermaid-svg-OcYWw3ZN6on6q9bK .cluster rect{fill:#ffffde;stroke:#aaaa33;stroke-width:1px;}#mermaid-svg-OcYWw3ZN6on6q9bK .cluster text{fill:#333;}#mermaid-svg-OcYWw3ZN6on6q9bK .cluster span{color:#333;}#mermaid-svg-OcYWw3ZN6on6q9bK div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:\”trebuchet ms\”,verdana,arial,sans-serif;font-size:12px;background:hsl(80, 100%, 96.2745098039%);border:1px solid #aaaa33;border-radius:2px;pointer-events:none;z-index:100;}#mermaid-svg-OcYWw3ZN6on6q9bK .flowchartTitleText{text-anchor:middle;font-size:18px;fill:#333;}#mermaid-svg-OcYWw3ZN6on6q9bK rect.text{fill:none;stroke-width:0;}#mermaid-svg-OcYWw3ZN6on6q9bK .icon-shape,#mermaid-svg-OcYWw3ZN6on6q9bK .image-shape{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-OcYWw3ZN6on6q9bK .icon-shape p,#mermaid-svg-OcYWw3ZN6on6q9bK .image-shape p{background-color:rgba(232,232,232, 0.8);padding:2px;}#mermaid-svg-OcYWw3ZN6on6q9bK .icon-shape .label rect,#mermaid-svg-OcYWw3ZN6on6q9bK .image-shape .label rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-OcYWw3ZN6on6q9bK .label-icon{display:inline-block;height:1em;overflow:visible;vertical-align:-0.125em;}#mermaid-svg-OcYWw3ZN6on6q9bK .node .label-icon path{fill:currentColor;stroke:revert;stroke-width:revert;}#mermaid-svg-OcYWw3ZN6on6q9bK :root{–mermaid-font-family:\”trebuchet ms\”,verdana,arial,sans-serif;}

核心调度机制

自动识别账号A/B剩余额度

用户请求随机/按需调度至空闲账号

两组用户共享双账号全部资源

避免一组资源耗尽、一组资源闲置

智普GLM5账号A

NewAPI资源网关负载均衡+智能调度

智普GLM5账号B

用户分组1:10名员工

用户分组2:10名员工

流程核心优势:摒弃传统「分组1绑定账号A、分组2绑定账号B」的固定模式,通过NewAPI将双账号资源合并,20名员工的所有调用请求由平台智能分配,始终最大化利用可用额度。

四、NewAPI 核心核心功能与用法详解🛠️

4.1 基础核心能力

  • 渠道聚合:批量添加多个AI厂商账号(本次为2个智普GLM5渠道),统一管理所有上游资源

  • 负载均衡策略:支持轮询、随机、权重分配、最少使用等调度模式,适配企业资源均衡场景

  • 用户/分组管理:支持创建用户组、批量添加用户、设置分组总配额、单人单日日额度

  • 密钥分发:为不同分组/用户生成独立调用密钥,权限隔离、用量独立统计

  • 异常容错:单账号额度耗尽/接口报错时,自动切换至正常账号,保障业务不中断

4.2 本次场景专属配置思路

针对「2个GLM5账号+2组共20人」场景,定制最优配置方案:

  • 添加2个智普GLM5渠道,开启渠道负载均衡

  • 创建2个用户分组(每组10人),不绑定固定账号

  • 开启全局智能调度,请求自动分流至剩余额度充足的账号

  • 设置分组总配额、单人每日调用上限,防止资源滥用

  • 统一分发NewAPI专属调用密钥,全员统一入口调用模型

  • 五、手把手实操配置步骤(落地可复用)📝

    5.1 前置准备

    • 已部署NewAPI服务(支持Docker一键部署、本地部署,默认端口3000)

    # ======================== new-api ========================
    new-api:
    image: swr.cn-north-4.myhuaweicloud.com/ddn-k8s/docker.io/calciumion/new-api:v0.13.2
    container_name: new-api
    restart: always
    ports:
    "6001:3000" # 外部访问6001端口
    volumes:
    – ./data:/data
    environment:
    TZ=Asia/Shanghai

    启动命在这里插入图片描述 令 docker-compose up -d new-api

    • 2个有效智普GLM5官方账号(获取对应的API密钥、接口地址)

    • 20名员工使用权限规划(分为分组1、分组2,各10人)

    5.2 步骤1:添加2个智普GLM5渠道

    登录地址 服务器ip:6001

    在这里插入图片描述 在这里插入图片描述

    1. 登录NewAPI管理员后台 ,进入【渠道管理】-【新增渠道】 2. 渠道类型选择:智普AI/GLM系列

    3. 分别填入2个GLM5账号的:API密钥、接口地址、模型名称(glm-5)

    4. 两个渠道全部开启启用状态,不单独限制单渠道配额

    5. 渠道调度策略选择:智能负载均衡(最少使用优先)

    在这里插入图片描述

    测试是否可用

    在这里插入图片描述

    在这里插入图片描述

    5.3 步骤2:创建用户分组与批量添加用户

    1. 进入【用户管理】-【分组管理】,新建两个分组:业务一组、业务二组

    2. 为两个分组设置统一总配额(根据企业月度额度配置),开启额度共享

    3. 批量创建20个普通用户账号,每组拉入10人,为每个用户生成独立调用Token

    4. 配置规则:分组不绑定任何单一渠道,所有用户共享2个GLM5账号资源池 在这里插入图片描述

    添加令牌 在这里插入图片描述

    5.4 步骤3:开启全局均衡调度

    进入【系统设置】-【调度设置】,开启核心配置:

    • 开启多渠道智能负载均衡

    • 开启渠道自动容错切换(单账号额度耗尽自动切换)

    • 关闭分组渠道绑定、固定渠道优先级

    六、完整调用示例(Python)💻

  • 访问 http://xxxxxxxx:6001 使用给定的账户登录。
  • 登录后进入 令牌管理,一般已经分配了一个令牌,如果没有,请自己添加令牌。
  • 配置 cc-switch 在这里插入图片描述 在这里插入图片描述 在这里插入图片描述
  • 代码说明✨

    • 所有员工共用一套调用代码、统一网关地址,仅替换个人Token即可区分用户、统计用量

    • 请求会自动经过NewAPI网关,智能调度至额度充足的智普GLM5账号

    • 无需感知底层双账号存在,完全屏蔽底层资源差异

    七、优化后效果对比(彻底解决资源浪费)📊

    优化前(传统固定分组模式)

    • 分组1绑定账号A,分组2绑定账号B

    • 高频使用分组快速耗尽额度,工作中断

    • 低频分组账号额度长期闲置,资源严重浪费

    • 资源利用率不足50%

    优化后(NewAPI负载均衡模式)

    • 双账号资源池化,20人共享总额度

    • 系统自动智能分流,均衡消耗两个账号额度

    • 无闲置资源、无单侧耗尽问题,资源利用率接近100%

    • 支持精准统计每组、每人调用用量,方便成本管控

    • 单账号异常自动切换,服务稳定性大幅提升

    八、企业进阶优化建议💡

  • 权重调度优化:若两个GLM5账号额度不同,可在NewAPI中设置渠道权重,让高额度账号承担更多请求

  • 额度精细化管控:为每位员工设置每日最大调用次数/Token上限,避免个别用户滥用资源

  • 调用日志监控:开启NewAPI日志统计功能,定期导出各组用量数据,优化资源分配

  • 多模型扩展:后续新增AI账号、模型,可直接接入NewAPI资源池,无需修改业务代码

  • 九、总结📎

    NewAPI的核心价值就是统一聚合、智能调度、精细化管控,完美解决企业多AI账号、多用户场景下的资源分配不均、闲置浪费、管理混乱等痛点。

    赞(0)
    未经允许不得转载:171主机测评 » 【AI】----一篇吃透NewAPI!一个或多个AI账号分身多个API Key给其他多人使用,并可以限制额度,实战方案(2026保姆级)
    分享到: 更多 (0)

    评论 抢沙发

    • 昵称 (必填)
    • 邮箱 (必填)
    • 网址