用一个 API Key 调 AI 服务,最怕两件事:超出配额、被限流。 多 Key 轮换就是——准备十把钥匙,一把用到上限了自动换下一把。你根本感觉不到。
一、为什么要用多 Key 轮换?
痛点 1:配额用完
OpenAI、DeepSeek、Anthropic 等 API 都有分钟级或天级配额限制。一个 Key 一个月只能调一定次数或 token 量。如果你用量大:
- 月初畅快用,月中开始被限流
- 或者每个请求都要等几秒才能发出去
痛点 2:单点故障
一个 Key 出问题了(过期、被盗、被误操作禁用),你的整个 Hermes 就停了。
痛点 3:成本分摊
你可能想:
- 一个 Key 跑日常开发(额度小、便宜)
- 另一个 Key 跑生产环境(额度大、可靠)
- 用一个共享团队 Key(AA 分摊费用)
Hermes 的**凭证池(Credential Pool)**系统用一个统一方案解决这三个问题:存多个 Key,自动轮换,出问题自动跳过。
二、凭证池的核心逻辑
Hermes 需要一个 Key
↓
凭证池中查找对应 provider 的 Key 列表
↓
按策略选择下一个 Key(轮询 / 优先级 / 随机)
↓
用这个 Key 发请求
↓
成功 → 继续使用
失败(配额耗尽/限流)→ 标记为\”耗尽\”→ 自动切换到下一个 Key
↓
所有 Key 都用完了 → 报错\”所有凭证已耗尽\”
整个过程对你是透明的。你不感知到 Key 切换的存在。
三、配置凭证池
3.1 添加凭证
hermes auth add
交互式向导会问:
选择 Provider: openai # 你要为哪个服务商配 Key
凭证标签: work-key # 给你的 Key 起个名字(方便你知道哪个超额了)
API Key: sk-*** # 粘贴你的 Key
添加完成后,凭证会被加密存储在 ~/.hermes/auth.json 中。
3.2 查看已添加的凭证
hermes auth list
输出:
Provider: openai
[0] label: work-key status: active uses: 1,234
[1] label: backup-key status: active uses: 892
[2] lab


