很多云厂商都有注册赠送大模型额度的优惠,但是优惠相对分散,今天分享一个将这些免费的额度统一接入管理起来,并实现跨平台额度自动调用的办法。
场景描述
1)一个 AI 供应商多个账号集成调用
比如你们公司在某平台上注册了多个账号,获得多次 AI Token 的赠送,需要把这些 APIKey 全部集中调用。
2)多个 AI 供应商同一 AI 大模型集成调用**
比如你在 A 平台注册账号获赠 Deepseek 100万 Tokens ,在 B 平台注册账号获得 50万 Tokens 赠送额度;需要把所有平台上关于 Deepseek 的赠送额度都集中调用。
3)多个 AI 供应商不同 AI 大 模型集成调用**
比如你在 A 平台注册获赠 Deepseek 调用额度,在 B 平台注册获增 Doubao 调用额度,需要把这些不同的大模型集中调用。
以上三种场景均可用 开源AI 网关 APIPark 的功能解决。
APIKey 资源池概念
APIPark 的 APIKey 资源池功能是一个集中管理和调配 APIKey 的功能,为 AI 服务的稳定运行提供有力支持。
在资源池中,你可以查看和管理各个供应商的 APIKey,包括其状态(如正常、超额、过期等)和调用优先级。
当某个 APIKey 出现超额或过期等问题时,系统自动按优先级启用其他 APIKey,确保 AI 服务的持续可用。还可以使用 AI APIKey 资源池对 AI 调用资源额度进行统一再分配。
操作步骤
〇 申请免费 Token
注册并开通各大云服务商/ AI 服务商账号,完成企业认证等必要步骤,领取 Token 额度。
〇 部署 APIPark
一行命令5分钟即可快速部署 APIPark ,具体参照 APIPark 官方部署流程文档。
〇 接入 AI 供应商
打开 APIPark 界面前往「系统设置」 - 「AI 模型」,点击右侧「添加供应商」;您需要接入多少个 AI 供应商则需要在 APIPark 上创建多少个对应的 AI 供应商。
可以在模型供应商列表处添加系统内置的模型,点击添加该供应商的「默认模型」,选择要使用的模型,和填入默认 APIKey 保存即可。
〇 配置 APIKey 资源池
在 「系统设置」 - 「API Key 负载」界面可见你创建的所有 AI 供应商。
下方栏处则是刚才创建 AI 供应商时默认的 APIKey, 如需给一个 AI 供应商创建多个 APIKey 点击右侧「添加 APIKey」配置新增即可。
〇 创建 AI 服务
在「工作空间」 - 「服务」界面新建 AI 服务,配置 AI 供应商和模型等基本信息保存后,可在界面看到您创建完成的「AI 服务」。
打开该「AI 服务」选择左侧「发布」并配置完成「新建版本」的基本信息即可发布。
可以在「API 门户」处可见成功上架的 API, 即可调用使用。系统会依据您在「API Key 负载」里的 APIKey 顺序来依次调用。
该实践应用主要解决 “同一个 AI 供应商多个账号集成调用” 的场景。
接下来讲讲如何解决 “多个 AI 供应商同一 AI 大模型集成调用” 以及 “多个 AI 供应商不同 AI 大模型集成调用” 的场景。
模型灾备
前面的接入的步骤与上面一样,需要先接入 AI 供应商、创建和发布 AI 服务;然后接下来的步骤要用到 APIPark 的「模型灾备」功能。
在「系统设置」-「模型灾备」界面添加新的模型,配置完成后即可在列表处拖拉调整模型调用顺序。
该功能是系统级的 AI 模型调用顺序。APIPark 会自动识别模型灾备内列表上的大模型健康情况,待第一个大模型消耗完(或模型故障),则会依次自动切换到序列内的模型。
APIPark「模型灾备」实现了多个 AI 供应商同一种 AI 模型 以及 多个 AI 供应商不同 AI 模型的集成调用场景。
如果觉得能帮助到你,请给项目一个Star,任何建议和交流欢迎提Issue.













